GCCVIEWS

Etiqueta: inteligencia artificial

  • Pausar el desarrollo avanzado de Inteligencia Artificial: ¿precaución o exageración?

    Más de mil CEOs y académicos han firmado una carta abierta pidiendo una pausa de seis meses en el desarrollo de sistemas avanzados de inteligencia artificial (IA). La carta detalla los posibles riesgos para la sociedad y la civilización de la circulación de sistemas de IA competitivos entre humanos en forma de interrupciones económicas y políticas. La petición se produce después del lanzamiento de la cuarta versión del programa de inteligencia artificial GPT-4 de OpenAI, respaldado por Microsoft.

    El Future of Life Institute, organización sin fines de lucro, emitió la carta pidiendo una pausa en el desarrollo avanzado de la IA hasta que expertos independientes desarrollaran, implementaran y auditaran protocolos de seguridad compartidos para tales diseños. Los sistemas de IA poderosos solo deben desarrollarse una vez que estemos seguros de que sus efectos serán positivos y sus riesgos manejables, dice la carta.

    La Union Europea (UE) se une al coro de preocupaciones éticas y legales sobre el desarrollo de inteligencia artificial (IA) avanzada como ChatGPT, advirtiendo sobre el posible uso indebido del sistema en intentos de phishing, desinformación y ciberdelincuencia. Mientras tanto, el gobierno del Reino Unido dio a conocer propuestas para un marco regulatorio «adaptable» en torno a la inteligencia artificial. El enfoque del gobierno dividiría la responsabilidad de gobernar la IA entre sus reguladores de derechos humanos, salud y seguridad y competencia, en lugar de crear un nuevo organismo dedicado a la tecnología.

    La IA de ChatGPT de OpenAI ha llevado a los rivales a acelerar el desarrollo de modelos de lenguaje similares y a las empresas a integrar modelos de IA generativa en sus productos. La semana pasada, OpenAI anunció que se había asociado con alrededor de una docena de empresas para incorporar sus servicios en su chatbot, lo que permite a los usuarios de ChatGPT pedir comestibles a través de Instacart o reservar vuelos a través de Expedia.

    Aunque el desarrollo de inteligencia artificial  y sistemas IA han avanzado mucho en los últimos años, todavía hay preocupaciones éticas y legales en torno a su uso y desarrollo sostienen los firmantes de la carta. Del otro lado, desarrolladores que son más escépticos ante lo que puede hacer la regulación, han acusado a los firmantes de la carta de promover la «exageración de la IA». Ha argumentado que las afirmaciones sobre el potencial actual de la tecnología han sido muy exageradas. La carta destaca la necesidad de trabajar con legisladores y autoridades reguladoras para garantizar que la IA se desarrolle de manera responsable y ética. Es destacable que Sam Altman, director ejecutivo de OpenAI, no ha firmado la carta, dijo a Reuters un portavoz de Future of Life.

    Este debate sobre la necesidad de algún tipo de regulación al desarrollo de la inteligencia artificial recién comienza e indica una creciente preocupación en torno a su uso y desarrollo. Aunque hay preocupaciones éticas y legales en torno a la IA, también hay un gran potencial para la tecnología y el progreso humano. Por lo tanto, es importante estar alertas ante legisladores y autoridades reguladoras para garantizar que la IA se desarrolle de manera autónoma, libre, responsable y ética, lejos de los políticos, para que podamos aprovechar al máximo sus beneficios mientras minimizamos sus riesgos como sociedad adulta.

    La carta completa, que puede ser encontrada en original aquí:

    «Los sistemas de Inteligencia Artificial (IA) con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y es reconocido por los principales laboratorios de IA. Como se establece en los Principios de IA de Asilomar, ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, lo cual debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable.

    Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los que nos placen? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización? Tales decisiones no deben delegarse en líderes tecnológicos no elegidos. Los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de la empresa OpenAI con respecto a la inteligencia artificial en general, establece que: “En algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros, y los esfuerzos más avanzados para acordar limitar la tasa de crecimiento de la computación utilizada para crear nuevos modelos”. Estamos de acuerdo. Ese punto es ahora.

    Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes como GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria.

    Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar mancomunadamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que son rigurosamente auditados y supervisados por expertos externos independientes. Estos protocolos deben garantizar que los sistemas que se adhieren a ellos sean seguros más allá de toda duda razonable. Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

    La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

    Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA. Estos deben incluir como mínimo: autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA.

    La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un “verano de IA” en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y le damos a la sociedad la oportunidad de adaptarse. La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados.»

  • Pánico al futuro próximo

    El miedo o pánico a lo desconocido produce curiosas reacciones. En mi caso, que me gusta anticipar el mundo próximo a nosotros y cosas como la AI o Inteligencia Artificial, me he tropezado con personas que, al escucharme habar de las maravillas que están a la vuelta de esquina, se disgustan conmigo. Me parece que las razones son variadas. Para algunos, realidades como que la nevera de casa sea más inteligente que uno les deja patidifusos. Para otros, es la perspectiva de la destrucción del empleo. Pero… ¿qué si les digo que será todo lo contrario? Y, allí está el meollo del asunto, que la mayoría carece de luces largas y miran hacia delante como mirando hacia atras.

    Pregunto ¿acaso la adopción de automotor y abandono del caballo como medio de transporte acabó con el empleo? No, todo lo contrario. Pero, ¿cómo convencer a tía Clotilde de que la nevera con AI no irá a su cuarto en la noche a congelarla?

    Aunque no soy genio futurista, lo que veo a futuro es que la IA nos abrirá horizontes inesperados y nuevos caminos; entre los cuales están grandes reducciones en los costos de productos y servicios que serán el rescate de los pobres. Tal es el caso de las neveras, que en un tiempo sólo las tenían los ricos.

    Me llama poderosamente la atención cuando hablo con muchos y uso términos que no entienden, lo cual leo en sus miradas; y doy riendas al atrevimiento de preguntar: ¿Conoces el significado…? Normalmente contestan con un simple “no”. Y sigo ¿Por qué no si tienes la respuesta en la mano…? Simplemente pregúntale a tu celular. ¡Ah!, pero pocos platican o se escriben con su ordenador, teléfono, celular, computadora y el nombre que sea con que nos referimos al aparato de AI que llevan hoy día hasta los sin hogar o, “piedreros” en panameñes.

    El secreto de adaptarse a los cambios se da en sociedades productivas y no aquellas en las cuales se vilipendia el emprendimiento o la “privatización”, como hemos hecho en Panamá. La tecnología de AI es una herramienta nueva con mayor capacidad que nos ayuda a aumentar la productividad a menos costo, lo cual se traduce en menor precio y mayor demanda. Lo que sí hará la AI, si es que la usamos, es crear nuevas áreas de trabajo o empleo, que requerirá mejor uso del capital, cápita o cabeza; lo cual no es nada malo.

    Espero no ver un renacimiento del ludismo de principios del siglo XIX, cuando los sindicalistas textiles entraban a las fábricas a destruir las máquinas hilanderas. La realidad deambula por otros recodos del andar humano al desplazar el trabajo monótono por otros más creativos y entretenidos. Veamos que el Uber no eliminó al taxi, sino permitió mayores puestos de trabajo y reducciones en el tiempo y costo del transporte. Más aún, la AI se ha convertido en alcahuete del amor conyugal ¿Será ello algo malo?

    En fin, cuando los autos reemplazaron a los caballos muchos se pusieron tristísimos ya que añoraban el olor a esa caca equina que éstos derramaban por doquier. O como áreas en Panamá dónde no hay sistema séptico y los efluvios humanos se derraman por laderas inundando la atmósfera con aliento escatológico. Muchos ni dan mantenimiento a sus tanques sépticos por miedo a perder ese perfume que la nariz desde la infancia sin tregua olfateó.

  • ¿Peligra su trabajo con la inteligencia artificial?

    Ante el acceso generalizado a la Inteligencia Artificial, hay preocupación sobre su impacto en el plano laboral. Algunos expertos creen que habrá cambios en casi todas las profesiones, y otros opinan que la tecnología ayudará a las personas a realizar sus tareas y creará nuevo trabajo.

    Google anunció el miércoles herramientas operadas con inteligencia artificial que se encuentran en proceso de prueba y pronto estarán disponibles para el público general.

    Las herramientas asistirán en escribir y organizar correos electrónicos, tomar notas durante una reunión, crear documentos con textos completos y presentaciones a través de aplicaciones que ya se utilizan popularmente, como Gmail, Google Doc o Slides. Las herramientas tienen como objetivo darle un “colaborador” a los humanos en tiempo real, dijo durante el anuncio Thomas Kurian, director de Google Cloud.

    Recientemente, Microsoft lanzó su nuevo motor de búsqueda con IA, que integra al ChatGPT, de la compañía OpenIA, que tiene la capacidad de generar largos y coherentes textos, códigos, explicar y razonar y proveer casi cualquier información.

    En los últimos 200 años, desde la Revolución Industrial, las nuevas invenciones han revolucionado los mercados laborales. Pero con la llegada de la IA, los expertos auguran que habrá cambios en casi todas las áreas profesionales.

    “A diferencia de estas otras innovaciones, la IA interactúa directamente con los humanos y la cognición humana: puede acceder a nuestras mentes. ChatGPT es solo el comienzo», dijo a la Voz de América Ashlesha Nesarikar, fundadora y directora de Plano Intelligence, una empresa de IA con sede en Texas. «Los trastornos causados por la IA superarán con creces nuestras experiencias”.

    Los artistas, por ejemplo, podrían ver su arte utilizado en obras derivadas. Los escritores creativos podrían ver copiados sus estilos. Los audios o videos podrían modificarse para cumplir nuevos propósitos, y equipos enteros creativos pueden ser reemplazados por una AI autónoma, explicó Nesarikar.

    Otros trabajos administrativos en contabilidad, derecho, finanzas, atención médica o educación, entre otros, podrían verse afectados gravemente a menos que impliquen una interacción directa con los clientes a nivel personal, indicó Nesarikar.

    Pero pese a los riesgos para profesiones tradicionales, Maura Grossman, profesora de Ciencias de la Computación de la Universidad de Waterloo, en Canadá, augura que se ganarán nuevos puestos de trabajo.

    “Ya podemos ver empresas que anuncian nuevos puestos para científicos informáticos y de datos familiarizados con ChatGPT, y para ‘ingenieros rápidos’ que pueden desarrollar consultas para generar resultados útiles”, dijo a la VOA.

    Selmer Bringsjord, director del Departamento de Ciencias Cognitivas del Instituto Politécnico Rensselaer de Nueva York, dijo que “en general, cualquier cosa que se pueda predecir con bastante precisión a partir de datos masivos sobre actividades pasadas debería ser posible de conquistar para la IA, lo que significa que cualquier trabajo humano que se base en datos anteriores está en riesgo».

    «Realmente, la creatividad es un gran factor decisivo”, dijo.

    Bringsjord apuntó que, tradicionalmente, los economistas usan modelos que implican que a medida que aumenta la automatización, la productividad humana también aumenta, y si esa automatización reemplaza a un humano, ese humano puede pasar a otro trabajo en otro sector del mercado.

    Sin embargo, “lo que los economistas hasta este punto nunca tomaron en cuenta explícitamente en sus modelos es la posibilidad de una inteligencia artificial que literalmente iguale o supere a la inteligencia humana en algunos dominios».

    «Esto ahora está empezando a suceder. Hay trabajos que ChatGPT puede hacer en todos los ámbitos, y mejor que cualquier humano”, indicó.

    ¿Cómo ser competitivos frente a la IA?

    La rapidez con que las herramientas de IA pueden realizar tareas es uno de los aspectos con los que los humanos tendrán dificultad compitiendo, por lo que es necesario adquirir nuevas habilidades, apuntaron los expertos.

    Grossman, por su parte, aseguró que “debido a que la IA no es completamente autónoma y puede cometer errores, todavía existe la necesidad de que un humano esté al tanto para verificar su trabajo».

    «Por el momento, las herramientas de IA aumentarán el trabajo de los humanos, en lugar de reemplazarlos por completo, permitiéndoles hacer más”, dijo.

    Esto trae consigo una nueva realidad. En el pasado, los estudiantes completaban su educación y capacitación e ingresaban a la fuerza laboral. Ahora “es posible que nos estemos moviendo hacia un mundo donde los trabajadores regresan periódicamente a la escuela a lo largo de sus vidas para volver a capacitarse a medida que avanza la tecnología”, agregó Grossman.

    Una estrategia sería vincularse a trabajos que hacen y mejoran la IA y los robots, dijo Bringsjord.

    Otros trabajos competitivos son aquellos que valoran la capacidad para resolver problemas únicos que requieran una gran precisión. Por ejemplo, personas especializadas en reparaciones graves en áreas como plomería o carpintería.

    Estos, aunque son servicios difíciles de ejercer por la AI, son mal remunerados, dijo David Autor, profesor de economía en el Instituto de Tecnología de Massachusetts, el miércoles durante un evento del Instituto Brookings, un centro de investigación en Washington DC.

    “Tenemos muchas personas altamente estudiadas que realizan tareas profesionales, técnicas y gerenciales, ya sea investigación, medicina, derecho, o tareas creativas. Y luego tenemos muchas personas que están haciendo servicios en persona que son difíciles de automatizar pero también difíciles de hacer más productivos, y como consecuencia están bastante mal pagados y usan habilidades relativamente genéricas”, indicó.

    “Mucha gente podría ser un buen mesero o guardia de seguridad o limpiador con un poco de entrenamiento, y eso significa que esos no tenderán a pagar bien. Así que el desafío también es grande, ¿cuál es el nuevo terreno que se abrirá?”, agregó.

    Nesarikar, por su parte, apuntó que “la demanda de trabajo relacionado con la capacitación, las pruebas, el mantenimiento y el aprovisionamiento de aplicaciones de IA aumentará, aunque estos trabajos pueden requerir una educación técnica de nivel de maestría o experiencia equivalente”.

    Lo cierto es que no hay forma de detener la proliferación de la IA, según los expertos, así que los trabajadores deben evitar luchar contra los desarrollos y en cambio adoptarlos.

    «Es difícil proclamar cualquier trabajo como ‘a salvo’ de la automatización. Dicho esto, sigue siendo valioso desarrollar habilidades blandas, como la empatía, las habilidades de negociación y el sentido del humor, que serán difíciles de reemplazar con IA”, concluyó.

  • Keanu Reeves califica de “increíble” la idea detrás de Bitcoin

    La estrella de «The Matrix», Keanu Reeves, se ha convertido en un entusiasta de las criptomonedas, llamando a las criptomonedas «herramientas increíbles para el intercambio y la distribución de recursos».

    En una entrevista reciente con Wired para promocionar su nueva película «John Wick 4», Reeves dijo: «Creo que el principio, las ideas detrás de una moneda independiente, son increíbles», y agregó que, «Pooh-pooh crypto, o la volatilidad de las criptomonedas, solo mejorarán en términos de cómo se salvaguarda».

    La película de 1999 «The Matrix», en la que Reeves interpretó al héroe Neo, fue un texto ciberpunk fundamental que predijo muchas de las tendencias tecnológicas emergentes de la actualidad, desde la inteligencia artificial (IA) hasta el metaverso . Por lo tanto, no sorprende que los fanáticos de Web3 hayan tenido curiosidad por saber qué piensa Reeves sobre las criptomonedas y las tecnologías relacionadas, como los NFT .

    En particular, Reeves está interesado en las implicaciones de las tecnologías de arte digital como AI y NFT, y señala que «la gente está creciendo con estas herramientas: ya estamos escuchando música hecha por AI al estilo de Nirvana, hay NFT  de arte digital.»

    Mientras admite que «es genial, ¡mira lo que pueden hacer las lindas máquinas!» Reeves agregó que está preocupado por la «corporatocracia detrás de esto que busca controlar esas cosas».

    Reeves explicó que recientemente trató de explicarle a un adolescente que en «The Matrix», Neo está «luchando por lo que era real», solo para que le preguntaran: «¿A quién le importa si es real?». 

    “Cultural y socialmente, nos enfrentaremos al valor de lo real o al no valor”, dijo el actor. “¿Y entonces qué nos van a imponer? ¿Qué se nos va a presentar?

    Las revoluciones del metaverso

    El actor se ha involucrado cada vez más en el espacio NFT en los últimos años;  se ha convertido en asesor de la organización benéfica de arte digital The Futureverse Foundation, que financia a artistas que buscan ingresar al espacio NFT.

    La organización benéfica, respaldada por los proyectos Non-Fungible Labs y Fluf World de NFT, tiene como objetivo «hacer que el metaverso sea accesible para más personas, especialmente de entornos desfavorecidos», según la pareja de Reeves y asesora de la Fundación Futurevese, Alexandra Grant.

    «Me estoy montando en sus faldones», dijo Reeves a Wired . “Ayudé a preparar el lanzamiento. Estamos tratando de tomar esta tecnología que le interesa a la gente y dar oportunidades a artistas con diferentes puntos de vista”.

    A pesar de estos esfuerzos, mantiene una aterrizada suspicacia frente al espacio virtual, que calificó como un “sensorium” y un “espectáculo”. Reeves hizo referencia a la alegoría de la caverna de Platón para sugerir que el metaverso podría verse como un “sistema de control y manipulación” que mantiene a los humanos engañados mientras estos se deleitan con elaboradas imágenes.

    “Estamos de rodillas mirando las paredes de la cueva y viendo las proyecciones, y no tenemos la oportunidad de observar detrás de nosotros. O a los lados”, dijo. Continuó la reflexión, y en un tono menos severo, pero igualmente reflexivo, justificó que la “fascinación” por la tecnología podría ser parte del deseo humano de vencer a la muerte y permanecer en el tiempo.

    A pesar de estas advertencias entorno a las posibilidades que ofrecen las nuevas tecnologías, Reeves se mostró optimista sobre su impacto en áreas diversas más allá del arte y el entretenimiento.

    En una entrevista anterior , bromeó: «¿No podemos dejar que Facebook invente el metaverso? El concepto de metaverso es mucho más antiguo que eso».

    Reeves y las criptomonedas

    Reeves se ha mantenido entusiasta del espacio criptográfico: una vez dijo que tiene «un poco en HODL», después de que «un amigo mío me compró algunos hace un tiempo» y que no ha hecho nada con eso porque «no lo he hecho».

    Elogió el fundamento detrás de los activos descentralizados como Bitcoin y aseguró que las críticas solo los harán más fuertes.

    «El principio, la idea detrás de una moneda independiente, es increíble. Son herramientas fantásticas para el intercambio y la distribución de recursos. Así que despreciar las criptomonedas, o la volatilidad de estas, solo mejorará su protección.»

    En 2015, Reeves narró el documental «Deep Web», dirigido por su coprotagonista de «Bill & Ted», Alex Winter, que contaba la historia de Ross Ulbricht, el fundador del mercado de la dark web de Silk Road.

    Aunque algunas innovaciones parecen entusiasmarle más que otras, el aclamado actor parece muy consciente del potencial y las transformaciones que muchos de estos desarrollos podrían plantear para la sociedad. (La perspectiva de Reeves no es poca cosa, estamos hablando de alguien que interpretó a un personaje conocido por liderar la revolución contra las máquinas).

    “Me interesa la historia de los humanos y su interacción con la tecnología”, comentó cuando fue consultado sobre su postura frente a la ciencia ficción en una frase que marcaría el tono de la entrevista.

    Reeves reflexiona sobre el lado oscuro de la tecnología

    Más allá de los personajes de ficción que ha encarnado, el actor se mostró un tanto consternado, al tiempo que fascinado, por el potencial de las tecnologías de IA para cambiar la industria del entretenimiento e impactar el mundo en general.

    Reeves reveló a Wired que sus contratos de cine incluyen desde hace años una cláusula que impide alterar sus actuaciones sin su autorización expresa. Según explicó, la cláusula surgió a raíz de una experiencia a inicios de su carrera y aplica a los retoques digitales, por ejemplo mediante tecnologías como IA, y no al proceso tradicional de montaje de una película.

    “No me importa si alguien quita un parpadeo durante una edición. Pero a principios de la década de 2000, o quizá de los 90, modificaron una actuación mía. (No revelará de cuál se trata). Añadieron una lágrima a mi cara, y yo me quedé diciendo: “¿Eh?”. Fue como si ni siquiera tuviera que estar aquí”, rememoró.

    Su preocupación parece centrarse en el potencial de las nuevas herramientas tecnológicas para suprimir la creatividad humana y restarle agencia a los creadores. El actor de John Wick así lo apuntó cuando expresó su impresión poco favorable de los deepfake, (una tecnología que básicamente aprovecha IA para recrear rostros y movimientos).

    Lo frustrante (de los deepfakes) es que pierdes tu agencia. Cuando actúas en una película, sabes que te van a editar, pero estás participando en eso. Si entras en la tierra del deepfake, no tiene ninguno de tus puntos de vista. Eso asusta.

    Si el mundo terminará en una suerte de rebelión de humanos vs máquinas, aún está por verse. Reeves, mientras tanto, parece luchar por mantenerse real en un mundo cada día más lleno de espejismos digitales. Tal y como Neo lo hizo en “The Matrix».

    Fuentes: Wired, DiarioBitcoin.

  • ¿Es inteligente la denominada “inteligencia artificial”?

    El lenguaje resulta esencial para pensar y para comunicar pensamientos, por lo que su uso inapropiado conduce a conclusiones erradas y en su caso peligrosas. No solo el tema se aplica a la mal llamada “inteligencia artificial”, sino también a la “memoria” de la “computadora”. Pues ni lo uno ni lo otro.

    Sin duda la tecnología ha prestado, presta y prestará inmensos beneficios a la humanidad. Desde las herramientas rudimentarias de nuestros ancestros de las cuevas referidas al simple garrote y el arco y la flecha, pasando por el taladro, la licuadora y la cortadora de césped, hasta la informática y la robotización.

    En todos los casos se libera trabajo para atender nuevas necesidades, ya que, como es sabido, los recursos son escasos y las necesidades son ilimitadas, y el recurso por excelencia es el trabajo indispensable para concebir la producción de bienes y la prestación de servicios. El empresario deseoso de obtener ganancias está muy especialmente interesado en sacar partida del arbitraje correspondiente, para lo cual se ve obligado a capacitar al efecto de lograr su cometido.

    Todos los cambios tecnológicos introducen cambios laborales, que van desde la desaparición del hombre de la barra de hielo al aparecer la heladera; los fogoneros de las locomotoras al irrumpir los motores diésel; la disminución de los carteros cuando se generalizó el mail; los trabajos de cableados, cuando se comenzó a recurrir al teléfono inalámbrico, y así sucesivamente. Este es el progreso, que, naturalmente, implica cambio, por lo que progresar y mantenerse estancado en lo mismo constituye una contradicción en los términos. Por supuesto que se ponen palos en la rueda si legislaciones laborales no permiten la adecuada asignación de personas y recursos, con lo que se perjudica muy especialmente a los más vulnerables.

    El decimonónico Frédéric Bastiat, en el capítulo 20 de su célebre Sofismas económicos, ya había ridiculizado la absurda sugerencia de destruir maquinarias y herramientas “para defender el trabajo” y establecía un correlato con las restricciones impuestas al comercio exterior por parte de mal llamados empresarios, que son explotadores, puesto que obligan a comprar más caro y de peor calidad “al efecto de proteger fuentes de trabajo”, lo cual empobrece al forzar a que se desembolsen mayores montos por unidad de producto, lo que necesariamente conduce a que haya menos productos.

    Pero una cosa es celebrar con entusiasmo el progreso tecnológico que beneficia a todos y otra bien distinta es distorsionar conceptos claves. Inteligencia proviene de inter-legum, es decir, leer adentro, captar esencias y capacidad para decisiones autónomas, en otros términos, libre albedrío, lo cual contrasta con la peregrina idea de que los humanos somos solo kilos de protoplasma, en cuyo caso estaríamos determinados por los nexos causales inherentes a la materia. En ese caso no habría tal cosa como ideas autogeneradas, no tendría sentido la responsabilidad individual, ni la moral ni la misma libertad, que sería mera ficción. Entre otros muchos textos, este es el sentido del libro en coautoría del filósofo de la ciencia Karl Popper y el premio Nobel en Neurofisiología John Eccles, que lleva el sugestivo título de El yo y su cerebro para distinguir la mente, los estados de conciencia o la psique del cerebro, de neurotransmisores y de la sinapsis.

    La inmensa gratitud por las maravillas de la tecnología y las extraordinarias contribuciones de algoritmos que resuelven problemas intrincados a velocidades notables, incluidos autocorrectores, no nos debe hacen caer irresponsablemente en lo que C. S. Lewis estampó como un alarido de alarma en el título de su célebre obra La abolición del hombre.

    El lenguaje resulta esencial para pensar y para comunicar pensamientos, por lo que su uso inapropiado conduce a conclusiones erradas y en su caso peligrosas. No solo el tema se aplica a la mal llamada “inteligencia artificial”, sino también a la “memoria” de la “computadora”. Pues ni lo uno ni lo otro. Cuando nuestros bisabuelos hacían un nudo en el pañuelo para recordar algo, a nadie en su sano juicio se le ocurría referirse a la gran memoria del pañuelo. De modo semejante es pertinente subrayar que es el ser humano el que computa, la máquina opera sobre la base de impulsos eléctricos.

    En otra ocasión me referí al experimento del conocido matemático Alan Turing en el que colocaba a una persona en una habitación en la que se ubicaban dos terminales de computadoras, una conectada en otra habitación con otra computadora y la otra conexión, a otro ordenador manejado por otra persona. A continuación, Turing solicitaba a la primera persona referida que formulara todas las preguntas que estimara pertinentes por el tiempo que demandara su investigación, a efectos de conocer cuál era cuál. De lo contrario, si no podía establecer la diferencia (distinguir cuál era humano y cuál, el aparato), concluía Turing que era una prueba de que no había diferencia entre el humano y el aparato en cuanto a sus cualidades de decisión.

    Por su parte, el filósofo John Searle refutó las conclusiones de ese experimento con otro que denominó “el experimento del cuarto chino”. Este consistía en ubicar también a una persona aislada en una habitación y totalmente ignorante del idioma chino, a quien se le entregaba un cuento escrito en esa lengua y se le daba una serie de cartones con preguntas sobre la narración del caso y otros tantos cartones con respuestas muy variadas y contradictorias a esas preguntas. Simultáneamente, también se le entregaban otros cartones adicionales con códigos claros para que pudiera conectar acertadamente las preguntas con las respuestas correctas.

    Explica Searle que de este modo el personaje de marras contestaba todo satisfactoriamente sin que hubiera entendido chino. Lo que prueba este segundo experimento es que el sujeto en cuestión es capaz de seguir las reglas, los códigos y los programas que le fueron entregados, que es la manera en que la máquina opera (desde luego no en cuanto a la capacidad de amar, autoconciencia, decisión independiente y equivalentes). Esto remite a la mera reacción de la computadora sobre la base de programas insertos (agregamos que la persona del ejemplo decidió seguir el programa, cosa que podía haber rechazado, decisión que no puede asumir la máquina). Todo esto para subrayar el rol de la programación.

    Es de interés destacar la opinión del premio Nobel de Física Max Planck en el contexto del no determinismo en el ser humano y su libertad. Afirma: “Se trataría de una degradación inconcebible que los seres humanos, incluyendo los casos más elevados de mentalidad y ética, fueran considerados autómatas inanimados en manos de una férrea ley de causalidad […] El papel que la fuerza desempeña en la naturaleza, como causa del movimiento, tiene su contrapartida, en la esfera mental, en el motivo como razón de la conducta”.

    Antony Flew precisa la diferencia entre causas y motivos. Escribe: “Cuando hablamos de causas de un evento puramente físico –digamos un eclipse de sol–, empleamos la palabra causa para implicar al mismo tiempo necesidad física e imposibilidad física: lo que ocurrió era físicamente necesario y, dadas las circunstancias, cualquier otra cosa era físicamente imposible. Pero este no es el caso del sentido de causa cuando se alude a la acción humana. Por ejemplo, si le doy a usted una buena causa para celebrar, no convierto el hecho en una celebración inevitable”.

    Debemos estar en guardia respecto de nomenclaturas modernas que se han filtrado y que degradan la condición humana, aunque sean del todo inocentes, basadas en las mejores intenciones y propósitos.

  • Presentadores en inteligencia artificial de China difunden desinformación en las redes sociales

    El grupo de investigación estadounidense Graphika dice que los presentadores de inteligencia artificial (IA) están reforzando la propaganda de Beijing y hablando mal de Washington.

    Los presentadores de noticias generados por inteligencia artificial se han desplegado por primera vez para hacer propaganda de contenido político en las redes sociales, dijo una firma de investigación estadounidense en su último informe.

    Graphika, con sede en Nueva York, dijo en el informe ‘Deepfake It Till You Make It‘ que Spamouflage, una operación de influencia alineada con el estado de China, ha estado utilizando personas ficticias generadas por IA para promover el papel global de China y difundir desinformación contra Estados Unidos desde finales de 2022.

    Spamouflage, una combinación de Spam y Camouflage, es una táctica utilizada por los spammers para evadir los filtros de spam de correo electrónico reemplazando ciertas letras con números. Los investigadores de seguridad cibernética usan el término, así como otros términos como Dragonbridge o Spamouflage Dragon, para referirse a la red de propaganda pro china en Internet.

    Spamouflage es responsable de publicar, a través de cuentas falsas dirigidas a usuarios de redes sociales, miles de activos que elogian a China, critican a Estados Unidos y atacan el movimiento prodemocracia de Hong Kong, así como la independencia de Taiwán.

    Recientemente ha estado “promoviendo una forma nueva y distintiva de contenido de video en plataformas de redes sociales como Facebook, Twitter y YouTube”, dijo Graphika.

    Los investigadores de la empresa detectaron y analizaron dos videos «únicos» que mostraban a un presentador masculino y femenino, ambos hablando inglés y con aspecto caucásico.

    Los videos usaban el logotipo de una «compañía de medios probablemente ficticia» llamada ‘Wolf News’ con el eslogan que lo acompañaba «Enfóquese en los puntos calientes y transmita en tiempo real».

    El presentador masculino criticó al gobierno de EE. UU. por su «repetición hipócrita de retórica vacía» al abordar la violencia armada, mientras que la mujer destacó la importancia de la cooperación entre China y EE. UU. para la recuperación económica mundial.

    Ambos videos reflejaron “esfuerzos anteriores de Spamouflage para pasar como medios de comunicación legítimos”, dijo el informe de Graphika.

    Alex, Jason y James

    Las abundantes similitudes detectadas en los videos y otros activos de Spamouflage en Internet llevaron a la conclusión sobre la conexión entre los dos.

    China aún no ha respondido al informe de Graphika que apunta al alarmante posible mal uso de la sofisticada tecnología de IA en campañas de desinformación por parte de actores estatales.

    Hasta ahora, las operaciones de influencia en línea se han limitado a rostros falsos generados por computadora y videos fabricados, pero los nuevos videos presentaban personas ficticias generadas por IA que parecían casi reales.

    “A primera vista, los presentadores de Wolf News se presentan como personas reales. Nuestra hipótesis inicial fue que eran actores pagados que habían sido reclutados para aparecer en los videos”, dijo el equipo detrás del informe.

    Después de una mayor investigación, detectaron el habla robótica de los presentadores que no se sincroniza con los movimientos de los labios, así como numerosos errores gramaticales en los subtítulos.

    El equipo de Graphika dijo que los anclajes probablemente se crearon con tecnología proporcionada por Synthesia, una compañía británica de video de IA.

    Encontraron varios videos de marketing usando el mismo dúo generado por IA que hablaba varios idiomas además del inglés. El avatar masculino, llamado Alex en el video de Wolf News, también se llamaba Mr Curtis, Jason y James.

    “El principal beneficio de esta tecnología para los creadores de videos de Spamouflage parece ser una mayor eficiencia, específicamente la producción de contenido de alta velocidad y bajo costo”, dice el informe, y agrega que los productos de Synthesia pueden crear videos generados por IA en cuestión de los minutos y las suscripciones comienzan en solo US $ 30 por mes.

    ‘Deepfakes, problemas reales’

    Los actores de operaciones de influencia “continuarán experimentando con tecnologías de IA, produciendo artefactos de medios cada vez más convincentes que son más difíciles de detectar y verificar”, advirtió Graphika.

    En 2018, la agencia de noticias estatal china Xinhua reveló el primer presentador de noticias de inteligencia artificial del mundo, que era una imagen masculina con voz, expresiones faciales y acciones de una persona real.

    El avatar fue desarrollado conjuntamente por Xinhua y la empresa china de motores de búsqueda Sogou.com.

    Xinhua dijo que el presentador de habla inglesa “puede trabajar las 24 horas del día en su sitio web oficial y en varias plataformas de redes sociales, reduciendo los costos de producción de noticias y mejorando la eficiencia”.

    presentadores
    Xinhua reveló el primer presentador de noticias de inteligencia artificial del mundo en 2018. Crédito: Xinhua

     

    En la última década, China ha puesto gran atención en el desarrollo de tecnología de IA.

    El Índice de IA 2022 de la Universidad de Stanford , que evalúa los avances en IA en todo el mundo, clasifica a China en el segundo lugar en inversión privada total en IA y en el número de empresas de IA recién financiadas, solo después de Estados Unidos.

    Beijing introdujo la primera regulación de su tipo sobre imágenes y videos generados por IA, o «deepfakes», en enero. Según él, «los servicios de síntesis profunda no pueden usar la tecnología para difundir noticias falsas».

    La nueva regulación también dijo que está prohibido el contenido que pone en peligro la seguridad y los intereses nacionales, daña la imagen nacional o perturba la economía.

    Sin embargo, la regulación no se aplica a las falsificaciones profundas generadas fuera del país. Los críticos dicen que su prioridad es reforzar la censura en línea y sofocar la disidencia.

     

  • Inteligencia Artificial de Google genera música sorprendente

    Google ha desarrollado un nuevo y sorprendente sistema de inteligencia artificial (IA) llamado MusicLM, que puede generar música en cualquier género con una descripción de texto. Sin embargo, debido a los riesgos asociados a la tecnología con el copyright, la compañía no tiene planes de lanzarlo de inmediato.

    MusicLM no es el primer sistema de inteligencia artificial generativa para canciones. Anteriormente se han intentado desarrollos como Riffusion, que compone música visualizándola, Dance Diffusion, AudioML de Google y Jukebox de OpenAI. Sin embargo, estos sistemas han fallado en producir canciones complejas en términos de composición o calidad de sonido debido a limitaciones técnicas y una falta de datos de entrenamiento.

    MusicLM es el primer sistema que parece superar estas barreras. Según un artículo académico, MusicLM fue entrenado en un conjunto de datos de 280,000 horas de música, aprendiendo a generar canciones coherentes a partir de descripciones de texto, con un nivel de complejidad significativa. Por ejemplo, se le puede proporcionar una descripción como «canción de jazz encantadora con un solo de saxofón memorable y un cantante solista» o «techno de los años 90 de Berlín «. Las canciones generadas suenan sorprendentemente como si hubieran sido compuestas por un artista humano, aunque pueden no ser tan inventivas o cohesivas musicalmente.

    Es importante destacar la calidad del sonido de las canciones generadas por MusicLM, ya que no hay músicos o instrumentistas en el proceso. Incluso cuando se le proporciona descripciones de texto más largas y detalladas, MusicLM logra capturar matices como riffs instrumentales, melodías y estados de ánimo.

    Las capacidades de MusicLM van más allá de la generación de clips cortos de música. Los investigadores de Google han demostrado que el sistema puede basarse en melodías existentes, ya sea que se cante, silbe o toque con un instrumento. Además, MusicLM puede tomar varias descripciones escritas en secuencia (por ejemplo, «hora de meditar», «hora de despertar», «hora de correr», «hora de dar el 100%») y crear una especie de narrativa melódica, perfectamente adecuada para la banda sonora de una película.

    Los investigadores de Google reconocen los desafíos éticos que plantea el uso de material protegido por derechos de autor en la música generada. Hay problemas legales importantes por resolver en cuanto a la apropiación indebida de contenido creativo.  En 2020, el sello discográfico de Jay-Z presentó acciones contra los derechos de autor contra un canal de YouTube, Vocal Synthesis, por usar IA para crear versiones de Jay-Z de canciones como ‘We Didn’t Start the Fire’ de Billy Joel. Después de eliminar inicialmente los videos, YouTube los restableció y descubrió que las solicitudes de eliminación estaban ‘incompletas’. Pero el tema todavía se encuentra en un terreno legal difuso. Eric Sunray, pasante legal de la Asociación de Editores de Música, argumenta que los generadores de música de IA como MusicLM violan los derechos de autor.

    Es probable que en poco tiempo se tenga claridad sobre el asunto relacionado con la IA que genera música. Varios juicios podrían estar relacionados con los derechos de los artistas cuya obra se utiliza para entrenar IA con o sin su autorización. Pero por ahora, es un tema en desarrollo y por lo visto incluso con CHAT GTP3, ni el cielo parece ser el límite.

  • ¿Qué podemos esperar del desarrollo exponencial de la inteligencia artificial? 7 recomendaciones sobre cómo seguir siendo útil en el futuro

    La inteligencia artificial se acelera…

    inteligencia artificial

    Por ejemplo, decidí finalmente convertirme en YouTuber. Sin embargo, mis videos no me mostrarán a mí, ya que no tengo tiempo ni espacio adecuado para filmarlos durante mis viajes, sino mi avatar digital visualmente idéntico (usando los servicios Synthesia.io o Scena.ai ). Él narrará mis conferencias o artículos en mi voz. Por supuesto en 120 idiomas con el mejor acento y entonación. Personalmente, no sé mandarín, árabe o coreano, pero mi avatar digital visualmente idéntico puede manejarlo fácilmente. No necesito un estudio equipado profesionalmente para esto, o una edición complicada de mi voz grabada. Mi avatar digital será el personaje principal de mi video educativo o de marketing.

    ¿Seremos reemplazados por la inteligencia artificial en un futuro cercano?

    No en los próximos años, pero sí estaremos ante un cambio radical en el mercado laboral en los próximos meses.

    Una gran cantidad de personas, incluidos programadores y artistas, tendrán que adoptar la nueva ola de inteligencia artificial o volver a capacitarse.

    El estado como el mayor obstáculo para el desarrollo exponencial de la inteligencia artificial

    El Estado y el sistema político están anclados en el último milenio y no responden en absoluto al desarrollo exponencial de la tecnología.

    La «única certeza» en el desarrollo exponencial de la tecnología y la inteligencia artificial es el estancamiento del Estado y del sistema político.

    Creo que un revisor fiscal, aduanero o policía tendrá un trabajo más seguro en los próximos años que cualquier programador o creativo. Y se agregará un censor central (porque de lo contrario también sería fácilmente manejado por inteligencia artificial).

    inteligencia artificial

    7 recomendaciones para seguir siendo útil en el futuro

    Conclusión

  • Explorando las posibilidades y desafíos de la IA de textos ChatGPT

    Abordo en este análisis reflexiones sobre las posibles implicaciones y retos del desarrollo y acceso generalizado a la inteligencia artificial de textos, en boca de tantos tras la activación a finales de noviembre de la herramienta ChatGPT, en acceso abierto.

    Incorporo nota metodológica al final.

    Transformación de negocios con la IA de textos

    El desarrollo de la IA de ChatGPT tiene el potencial de cambiar significativamente la forma en que la gente interactúa con la tecnología.

    Puede mejorar la eficiencia y precisión en tareas que requieren una interacción natural con el lenguaje humano. Por ejemplo, puede tener un impacto en la atención al cliente y la atención médica, ya que puede mejorar la eficiencia y precisión en la interacción con los clientes y pacientes.

    También puede tener un impacto en el sector financiero, ya que puede ayudar a realizar análisis y predicciones más precisos en el mercado financiero.

    Además, puede tener un impacto en el sector educativo, ya que puede utilizarse para crear programas de enseñanza personalizados y adaptativos.

    La IA también puede ser utilizada para crear herramientas y soluciones innovadoras en áreas como la logística, la energía y la producción.

    Mapa de riesgos

    Hay varios posibles riesgos y desafíos asociados con el desarrollo de la IA, como la privacidad y la seguridad de la información.

    Uno de los principales riesgos es la posibilidad de que la información personal sea recopilada, almacenada y utilizada de manera indebida por parte de terceros. Esto puede ocurrir a través de ataques cibernéticos, uso no autorizado de la información por parte de empleados de la empresa o incluso a través de vulnerabilidades en el propio software de la IA.

    Además, la IA también puede ser utilizada para fines malintencionados, como el spamming, el phishing o la difusión de noticias falsas. Por lo tanto, es importante desarrollar medidas de seguridad efectivas para proteger la privacidad y la seguridad de la información en el contexto del desarrollo de la IA.

    Medidas de seguridad

    Hay varias medidas de seguridad que pueden ser efectivas para proteger la privacidad y la seguridad de la información en el contexto del desarrollo de la IA.

    • Implementar medidas de cifrado efectivas para proteger la información contra el acceso no autorizado.
    • Establecer políticas de privacidad claras y transparentes para informar a los usuarios sobre cómo se recopila, almacena y utiliza su información personal.
    • Realizar regularmente auditorías y pruebas de seguridad para detectar y corregir vulnerabilidades en el software de la IA.
    • Capacitar y educar a los empleados sobre las buenas prácticas de seguridad informática y las políticas de privacidad de la empresa.
    • Colaborar con expertos en seguridad informática y privacidad para desarrollar medidas efectivas y estar al día con las últimas amenazas y tendencias en el campo de la seguridad de la IA.

    Es importante tener en cuenta la seguridad y la privacidad en todas las etapas del desarrollo de la IA, desde el diseño hasta la implementación y el mantenimiento, para garantizar la protección adecuada de la información personal.

    El papel del Estado

    Los gobiernos y la legislación tienen la responsabilidad de establecer marcos y normas para regular el desarrollo y el uso de la IA. Esto incluye la creación de leyes y regulaciones que protejan la privacidad y la seguridad de la información, así como la promoción de la ética y la transparencia en el desarrollo y uso de la IA. También pueden fomentar la investigación y el desarrollo en el campo de la IA, así como establecer estándares y mecanismos de evaluación para garantizar que la IA cumpla con ciertos requisitos de calidad y seguridad.

    Retos para la prensa

    El desarrollo de la IA en general, y de ChatGPT en particular, puede tener un impacto positivo en la generación de contenidos informativos y en la prensa.

    Por ejemplo, ChatGPT y otras tecnologías de IA pueden ayudar a los periodistas a crear contenido más rápido y preciso, lo que les permite enfocarse en otras tareas importantes, como la investigación y la verificación de hechos.

    Además, la IA también puede ayudar a la prensa a llegar a una audiencia más amplia y ofrecer contenido personalizado a sus lectores.

    Sin embargo, es importante tener en cuenta que la IA todavía tiene limitaciones y no puede reemplazar completamente el trabajo humano en la generación de contenidos informativos.

    Es posible que el desarrollo de la IA como ChatGPT pueda tener algún efecto negativo en la prensa. Si se utiliza en exceso o de manera inadecuada, la IA puede generar contenido que no sea preciso o que incluso sea engañoso. Además, si se utiliza para reemplazar completamente el trabajo humano en la generación de contenidos informativos, esto podría llevar a una reducción en la calidad del contenido y en la diversidad de opiniones en la prensa. Por lo tanto, es importante utilizar la IA de manera responsable y en combinación con el trabajo humano en la prensa.

    Nota metodológica:

    Este análisis ha sido redactado completamente con los textos generados por la herramienta de inteligencia artificial de textos ChatGPT, de acceso abierto en varios países, activada hace unos pocos días.

    La única intervención del firmante de este artículo es la entrada inicial, así como formular la serie de preguntas a ChatGPT para que produzca los textos.

    De los textos generados he seleccionado los que me han parecido más relevantes bajo mi criterio, haciendo puro “Copiar y pegar”, sin añadir ni una sola palabra mía.

    El título también es de la herramienta. He tenido que introducir únicamente una corrección, del número de un artículo determinado.The Conversation

    Francesc Pujol, Profesor en la Facultad de Económicas, Universidad de Navarra

    Este artículo fue publicado originalmente en The Conversation. Lea el original.

  • Los algoritmos guían la selección de personal en las empresas y eso puede ser un problema

    Ante una tarea compleja, tendemos a fiarnos más de los algoritmos que de nosotros mismos.

    “No soy un producto de mis circunstancias. Soy un producto de mis decisiones”.

    Los siete hábitos de las personas altamente efectivas (Stephen Covey).

    Desde que abrimos los ojos para despertarnos hasta que se acaba el día estamos constantemente tomando decisiones. Muchas son inconscientes. No las pensamos, simplemente actuamos.

    Nuestro cerebro no está dispuesto a gastar energía en cosas tan simples como una primera impresión de una persona o contexto. Por lo general, no pensamos o reflexionamos sobre estas decisiones que tomamos de manera rápida.

    La realidad es que estas decisiones impulsivas pueden tener consecuencias negativas, como la discriminación en una entrevista de trabajo.

    En psicología decimos que juzgar rápidamente a una persona por su apariencia es como juzgar un libro por su tapa. Es fácil hacerlo, pero puede ser fácil fallar. En los procesos de selección de personal puede estar sucediendo lo mismo, aunque sea un algoritmo el que tome las decisiones.

    Tenemos que saber que no tomamos todas las decisiones de manera independiente. La gran mayoría están apoyadas en la tecnología. Esto es así por la economía de esfuerzo. Muchas veces para decisiones complejas hay que manejar un gran volumen de datos, y esto nos genera un gasto de energía importante. La confianza hacia estas tecnologías suele ser ciega: todo lo tecnológico nos da cierta sensación de veracidad.

    Pero, ¿cómo es posible que un algoritmo esté sesgado?

    El sesgo es una inclinación hacia una persona, cosa o grupo que produce un desequilibrio que perjudica a la otra parte. Estamos sesgados cuando no somos neutros ante una persona, grupo, situación, etc. Eso produce un error.

    Estos errores, que se pueden dar en las interpretaciones de diferentes contextos, individuos o información, se pueden ver reflejados tanto en la toma de decisiones humanas como en la inteligencia artificial (IA). Al ser los humanos los que diseñan esta tecnología, es posible que estén reproduciendo datos sesgados o manipulados.

    Introducción de la IA en los puestos de trabajo

    El razonamiento más común para la introducción de nuevas tecnologías en nuestros trabajos suele ser la objetividad y la eficiencia. Se podría decir que, a nivel social, todo lo tecnológico nos da más seguridad. Ante una tarea compleja, tendemos a fiarnos más de los algoritmos que de nosotros mismos.

    Así, el aumento de la utilización de la IA está siendo exponencial. Por ejemplo, en el área de los recursos humanos estas nuevas tecnologías se están aplicando en el reclutamiento y selección del personal, la evaluación del desempeño y desarrollo del personal. Estos recursos están ayudando a la automatización de diferentes tareas que se puede interpretar como eficiencia organizacional.

    En el mercado actual tenemos herramientas digitales que nos ayudan a escoger al mejor candidato utilizando una búsqueda semántica automatizada basada en la información escrita por el candidato en su currículum. Pero también teniendo en cuenta el número de palabras técnicas que utiliza en la entrevista o en la conversación que puede llegar a mantener con un chatbot.

    Ejemplos de la actuación de los sesgos en la IA

    Existen plataformas de búsquedas de empleo que hacen uso de la IA para poder ofrecer un resultado objetivo a la hora de escoger al candidato idóneo para un puesto de trabajo específico.

    La realidad es que la selección final que hacen estos algoritmos hacia los candidatos seleccionados está sesgada. Se ha visto que los algoritmos pueden generar discriminación étnica y de género para ofrecer, en el 85 % de los casos, puestos de trabajo de cajera de supermercado a mujeres, o puestos de taxista al 75 % de perfiles afroamericanos.

    A su vez, los algoritmos pueden tener en cuenta las tendencias de búsqueda del reclutador y sus interacciones con perfiles específicos. Y, así, recomendar perfiles de empleados con características similares. En estos casos no es una sorpresa encontrarnos con perfiles muy similares a las características personales del reclutador. Por ejemplo, haber estudiado en la misma universidad, ser de la misma etnia, tener un estilo de vida similar, mismo aspecto físico y lugar de residencia.

    La explicación se debe a que la IA aprende a tomar decisiones basándose en la reproducción de datos que se pueden apoyar en el aprendizaje de las decisiones humanas. Estas últimas puede que estén sesgadas y, en consecuencia, reflejar disparidades históricas o sociales. A su vez, eliminar algunas variables sensibles como el género, la etnia o la orientación sexual puede llevar a la reproducción de resultados sesgados.

    No hay que tener fe ciega en la IA

    Se están dando muchos avances en la inteligencia artificial. A raíz de la pandemia, los procesos de e-recruitment (reclutamiento por medios digitales) han experimentado cierto crecimiento apoyado en estas tecnologías.

    Se han creado algoritmos que interpretan semánticamente el contenido escrito (carta de recomendación o currículum) o verbal (entrevista por plataformas digitales). Como resultado se ofrece un diagnóstico del candidato (perfil de personalidad, inteligencia) que es determinante para la toma de decisiones en el proceso de selección.

    Sin embargo, hay que tener en cuenta que, como sucede en casi toda la tecnología, la parte vulnerable es la persona. Es decir, el algoritmo no falla, pero puede fallar la persona que lo programa. Esto se puede producir por un error humano, por falta de conocimiento psicológico, por influencias externas y por intereses de empresas.

    La tecnología nos está ayudando en el campo de los recursos humanos, al igual que en otros como salud, marketing, automoción, sector jurídico y asegurador y banca. Su implementación ha crecido en los últimos años e irá a más.

    ¿Significa esto que no debemos dejarnos guiar por la inteligencia artificial? Podemos apoyarnos en ella, pero siempre con reservas. Debemos entender que un algoritmo no es un genio mágico y sabelotodo, sino que detrás tiene, como sucedía en El mago de Oz, a una persona imperfecta.The Conversation

    Elene Igoa Iraola, Investigadora Predoctoral, Universidad de Deusto y Fernando Díez Ruiz, Profesor doctor Facultad de Educación y Deporte, Universidad de Deusto

    Este artículo fue publicado originalmente en The Conversation. Lea el original.