Diario y Radio Universidad Chile

Año XVI, 26 de febrero de 2024


Escritorio

La Inteligencia artificial llegó para quedarse

Columna de opinión por Rocío Mayol Troncoso
Miércoles 7 de junio 2023 16:08 hrs.


Compartir en

La Inteligencia Artificial (IA) es uno de los temas que está capturando la atención de muchos en la actualidad. Cada vez son más las personas que expresan su opinión acerca de ella mostrando los beneficios, pero también los riesgos que conlleva este tipo de inteligencia. La IA promete conllevar cambios sociales y económicos equivalentes a los de la revolución industrial. Esta es un sistema informático que imita funciones propias de la inteligencia humana como el aprendizaje y la solución de problemas específicos. Uno de los sistemas más famosos es el ChatGPT, este se basó en la técnica de inteligencia artificial conocida como Human Feedback Reinforcement Learning (RLHF). Se trata de una inteligencia artificial que está entrenada para mantener conversaciones, es un modelo de lenguaje diseñado para comprender y generar lenguaje natural, lo que significa que puede analizar o responder preguntas, entender solicitudes y generar texto que sea coherente y natural. Se alimenta de una gran cantidad de información alojada en Internet, como por ejemplo enciclopedias, libros, diarios y revistas científicas. Como señala la Dra. Christ Devia, investigadora del Centro Nacional de IA en una conversación en el instagram de @cientificamente_mujeres, al tener una gran representación de la información ésta presenta sesgos de género, de pueblos originarios, de clase y políticos, pues es una representación de nuestra sociedad.

Uno de los grandes problemas que presenta este tipo de IA, son las llamadas alucinaciones. Estas se refieren a un comportamiento anómalo en el que un modelo genera información falsa, sin que exista una fuente externa que justifique su existencia. Es decir, los modelos de lenguaje que utilizan algoritmos de IA si no encuentran la información, la inventan. Personalmente lo he experimentado preguntando a ChatGPT las fuentes bibliográficas de la información que le solicito. Como resultado, me entrega links que no existen con estudios que nunca se han realizado. El problema es que en general los usuarios no comprueban la información, pensando que son modelos fidedignos, cuando no es el caso.

Diferentes personas han reaccionado a esta inteligencia. Una carta abierta, publicada el 22 de marzo del 2023, asegura que los laboratorios que trabajan con esta tecnología están en “una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”. La declaración fue firmada por más de 1.000 personas. En ella, piden que las empresas que desarrollan este tipo de programas “pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de IA más potentes que GPT-4”. Sam Altman, CEO de OpenAI ante el congreso de Estados Unidos señala que: “Su temor es que causemos un daño significativo al mundo” y  pidió que los gobiernos se involucraran, creando una agencia que regule a las empresas y sus creaciones. Estas reacciones tienen todo el sentido. La IA ha avanzado a tal velocidad que se está reaccionando posterior a ella. Uno de muchos ejemplos, es que ChatGPT ya ha aparecido como autor de artículos científicos a los que Springer Nature aclaró que no puede ser acreditado como autor en artículos publicados en sus revistas. Las IAs como ChatGPT no cumplen con los criterios para ser consideradas autoras de un estudio, pues no pueden asumir la responsabilidad por el contenido e integridad de artículos científicos.

En el área de la música una nueva canción en la que colaboraron Drake y The Weeknd, lleva millones de producciones en redes sociales y se ha posicionado como una tendencia indiscutible. Sin embargo, no fue grabada ni producida por ellos. La pieza musical fue creada íntegramente por una IA, sin intervención de productores, cabinas, voces, ni equipo especializado. A lo que nuevamente se reaccionó después y esta canción fue eliminada de las plataformas Spotify y Apple Music. La multinacional Universal Music Group está solicitando que se eliminen de sus catálogos la música generada mediante sistemas de IA, y no sólo eso, también ha pedido que se cierre el acceso para los desarrolladores a su repertorio musical para que no puedan entrenar a sus sistemas IA sobre las canciones que estas empresas producen, ya que, según el sello, ambas actividades atentan contra la propiedad intelectual.

Chomsky,  reconocido lingüista y filósofo escribió un artículo junto a dos especialistas, en el que compartió su visión sobre los avances que se han presentado en el campo de la IA, señalando que: “tememos que la variedad más popular y de moda de la inteligencia artificial (el aprendizaje automático) degrade nuestra ciencia y envilezca nuestra ética al incorporar a la tecnología una concepción fundamentalmente errónea del lenguaje y el conocimiento”.

Sin duda, la IA nos pone como sociedad en un debate que no podemos ignorar. En palabras de la Dra. Devia, “Llegó para quedarse” y ante los desafíos que nos demanda, una población crítica e informada podrá hacer uso de ella como asistente y no como prisioneros. Por eso fortalecer el sistema educacional y mantener una política nacional actualizada de IA y en constante revisión resultan claves en los desafíos que se nos vienen como sociedad.

Rocío Mayol Troncoso
Psicóloga
Doctora en Ciencias Biomédicas
Fundadora @cientificamente_mujeres

El contenido vertido en esta columna de opinión es de exclusiva responsabilidad de su autor y no refleja necesariamente la posición de Diario y Radio Universidad de Chile.