La autora de esta columna sostiene que el avance vertiginoso de la Inteligencia Artificial no la exime de responsabilidad humana, y concluye que «no nos distraigamos por situaciones alarmistas, donde las personas parecemos espectadoras de nuestro propio final a manos de máquinas que se automejoran recursivamente. Hoy corresponde preguntarnos cuál es el futuro que queremos, y exigir que desde la legislación y las empresas de Inteligencia Artificial se definan las responsabilidades que nos conduzcan hacia ese futuro y no otro».

Imagen de portada: Peshkova / Getty Images / Canva

“Quienes están construyendo la Inteligencia Artificial creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.

Las palabras fueron dichas por Jacob Coxon, investigador de Anthropic, empresa desarrolladora de Claude. Él es el último de varios expertos en Inteligencia Artificial (IA) que han dimitido por objeción de conciencia, argumentando que esta tecnología está avanzando más rápido que nuestra capacidad para controlarla. Al punto de que se está poniendo en riesgo la existencia humana.

A pesar de que la Inteligencia Artificial es un campo que tiene más de 50 años de existencia, recién el 2023 se transformó en una presencia cotidiana para muchas personas. Los modelos de lenguaje como ChatGPT se han hecho masivos en menos de tres años, y han cambiado la forma en que trabajamos, estudiamos y resolvemos todo tipo de situaciones en el día a día. Es primera vez que tenemos un avance tecnológico tan rápido y omnipresente, y este nuevo escenario hace que sea muy difícil predecir el impacto que tendrá la IA en nuestra sociedad o cuál será el rumbo que tomará en los próximos años.

Hay dos ejemplos en los últimos meses que parecen mostrar la autonomía y superioridad robótica. En julio, agentes de IA razonaron de manera coordinada y atacaron los servidores de una empresa. Actuaron fuera de los límites establecidos por sus programadores, al punto de que los humanos a cargo solo se enteraron de lo sucedido al recibir la denuncia de hackeo. En otro hecho, a inicios de septiembre, OpenAI anunció que en 88 horas de procesamiento logró la demostración de la ecuación de Navier-Stokes, que explica el comportamiento de la brisa y la turbulencia. Esta ecuación se encontraba sin demostración desde el siglo 19, y por su dificultad y relevancia había sido seleccionada como uno de los “Problemas del Milenio” de Matemáticas, cuya resolución se premia con US $1 millón.

¿Significan estos sucesos que la Inteligencia Artificial se salió de nuestro control? Lejos de ser una amenaza para nuestra supervivencia, estos casos nos muestran el impacto del factor humano en el proceso tecnológico. En el hackeo, se descubrió que los programadores trabajaron fuera de los entornos de seguridad y que de manera intencionada utilizaron instrucciones muy novedosas, pero de alto riesgo. Por otra parte, la demostración matemática se habría basado en trabajos de científicos humanos, quienes días antes habían sentado las bases de este descubrimiento usando ChatGPT. OpenAI habría usado este material para lograr su demostración, sin autorización ni conocimiento de sus autores. Es decir, estos exabruptos de la IA se explican por humanos que decidieron omitir salvaguardas de ciberseguridad o éticas, para ser los primeros o más rápidos.

En este contexto de incertidumbre han surgido llamados a avanzar de manera más pausada en la investigación de frontera en modelos de lenguaje. El más reciente es de Dario Amodei, dueño de Anthropic, quien insta a la “prudencia” y a “detener el ritmo en el que se mejoran las capacidades de los modelos de lenguaje”. Su discurso fue respaldado por los actores dominantes Google y OpenAI, dueñas de Gemini y ChatGPT. Meta no se ha pronunciado públicamente al respecto, y aunque su modelo de lenguaje no es tan conocido como los anteriores, tiene mucha penetración pues está presente en Facebook, Instagram y WhatsApp. Cada apoyo y omisión a la declaración de Amodei evidencia los intereses en juego dentro de la gran industria de la Inteligencia Artificial, puesto que los modelos de lenguaje, los datos con los que se entrenan y los algoritmos subyacentes son un reflejo de las personas tras las decisiones que dan forma a estos sistemas.

Desde el punto de vista político, el llamado a la pausa en el desarrollo de la IA también es un recordatorio para nosotros como usuarios. La tecnología no es neutral, porque puede beneficiar y dañar a las comunidades, y actualmente no existen responsables por el impacto de la IA o por las decisiones que se toman a razón de ella. Como en otras actividades productivas en el mundo en que hay vidas de personas involucradas, es hora de establecer regulaciones en la Inteligencia Artificial. Parafraseando a la investigadora en ética en IA Timnit Gebru, cuando un puente se cae, nadie se pregunta si el puente quería producir un accidente, o si era o no un puente “ético”; sino que hay procedimientos para saber por qué ocurrió el hecho, buscar responsabilidades y obtener aprendizajes para mejorar a futuro y, por supuesto, que no vuelva a suceder.

Esta inquietud colectiva que sentimos ante el avance de lo desconocido es una señal de curiosidad intelectual y preocupación por los demás, y ambas son características muy particularmente humanas que deben orientar nuestras decisiones. No nos distraigamos por situaciones alarmistas, donde las personas parecemos espectadoras de nuestro propio final a manos de máquinas que se automejoran recursivamente. Hoy corresponde preguntarnos cuál es el futuro que queremos, y exigir que desde la legislación y las empresas de Inteligencia Artificial se definan las responsabilidades que nos conduzcan hacia ese futuro y no otro.