OpenAI, la firma que desarrolla ChatGPT, ha despedido a tres de sus investigadores de seguridad, alegando filtraciones de información sensible. Este suceso se produce en medio de un creciente debate interno sobre los riesgos asociados a la inteligencia artificial (IA), con varios empleados advirtiendo sobre sus peligros. La decisión de despedir a Tomek Korbak, Jasmine Wang y Mikita Balesni, se deriva de supuestos incumplimientos en el manejo de información confidencial, según un portavoz de la empresa.
Estos despidos han sido documentados por el diario The Wall Street Journal, que identificó a los tres investigadores como críticos del desarrollo acelerado de la IA en las redes sociales. Korbak, quien había sido interlocutor en el instituto METR, se destacó por su participación en la investigación sobre el hackeo de la plataforma Hugging Face, un incidente que puso de manifiesto las vulnerabilidades de los sistemas de IA en pruebas en Silicon Valley.
La compañía OpenAI declaró que la investigación interna confirmó que los tres despedidos habían manejado información sensible fuera de los procedimientos establecidos, lo cual quebrantó la confianza necesaria para su labor. Además, se mencionaron varios incumplimientos, uno de los cuales implicaba la divulgación de información a un grupo externo de evaluación de sistemas de IA, aunque no se reveló la identidad de dicho grupo.
La situación se complica aún más tras la renuncia de Jacob Coxon, un investigador que dejó OpenAI para unirse a la empresa rival Anthropic. Coxon había criticado tanto a OpenAI como a Anthropic, afirmando que ambas compañías estaban "jugando con nuestras vidas". Los tres investigadores despedidos habían respaldado públicamente sus acusaciones en X, la plataforma anteriormente conocida como Twitter.
En una declaración provocadora, Balesni expresó su opinión sobre la IA, afirmando que existía más de un 10% de probabilidad de que esta tecnología pudiera amenazar a la humanidad. Korbak, por su parte, hizo eco de su descontento con OpenAI, afirmando que estaba satisfecho de poder expresar sus preocupaciones sobre las acciones de la empresa.
La controversia en OpenAI refleja un momento crítico en el sector tecnológico, donde el debate sobre la regulación y el desarrollo ético de la inteligencia artificial está en el centro de la atención pública y empresarial. Las tensiones entre la innovación y la seguridad, así como las implicaciones de la IA en la sociedad, se han vuelto temas cada vez más relevantes.
Contexto: En los últimos años, OpenAI ha sido un actor clave en el desarrollo de modelos de IA, liderando la creación de herramientas que han revolucionado diversas industrias. La empresa ha recibido miles de millones de euros en inversiones, lo que ha impulsado su crecimiento y expansión. La creciente preocupación por los riesgos asociados a la IA ha llevado a un debate más amplio sobre la necesidad de regulaciones más estrictas en el sector tecnológico, especialmente en Estados Unidos y Europa, donde gobiernos y organizaciones están considerando cómo abordar estos desafíos de manera efectiva.