Investigadores de OpenAI advirtieron a la junta directiva sobre el avance de la IA

Varios investigadores de la empresa OpenAI escribieron una carta a la junta directiva, días antes del despido de Sam Altman, en la que se advertía sobre un poderoso descubrimiento de inteligencia artificial (IA). La información ha sido adelantada por la agencia Reuters en la que se citan fuentes sin identificar, pero que aseguran pertenecer al entorno de la compañía.

El despido del gurú de la inteligencia artificial generativa habría provocado que más de 7.000 empleados amenazasen con renunciar y unirse al patrocinador Microsoft, lo que pudo ser uno de los motivos del regreso de Altman cuatro días después, y su nombramiento como consejero. 

Las fuentes citaron la carta como uno de los factores, entre una lista más larga de quejas de la junta, que llevaron al despido de Altman. Entre ellas, el escrito recogía una serie de preocupaciones sobre la comercialización de avances en inteligencia artificial antes de comprender sus posibles consecuencias.

Reuters asegura que no pudo revisar una copia de la carta, la cual no está del todo claro si llegó a ser entregada. El personal que la escribió tampoco ha accedido a responder a las solicitudes de la prensa.

Después de ser contactado, OpenAI reconoció la existencia de un mensaje interno a su personal sobre un proyecto llamado Q* (pronunciado Q-Estrella), así como de la carta enviada a la junta. Un portavoz de OpenAI afirmó que el mensaje, enviado por la ejecutiva Mira Murati, alertaba al personal sobre ciertas historias de los medios de comunicación acerca de la IA.

Los inicios de una inteligencia artificial general

Según una de esas fuentes, algunos trabajadores en OpenAI creen que Q* podría significar un gran avance en la búsqueda de una "inteligencia artificial general" (AGI). OpenAI define AGI como un sistema autónomo que superará a los humanos en la mayoría de las tareas económicamente valiosas.

Dada la gran cantidad de recursos informáticos, el nuevo modelo pudo resolver ciertos problemas matemáticos, según aseguró la persona, bajo condición de anonimato porque no estaba autorizada a hablar en nombre de la empresa

Aunque hasta el momento Q* solo realizaba matemáticas al nivel de estudiantes de escuela primaria, superar esas pruebas hizo que los investigadores se sintieran muy optimistas sobre el éxito futuro del programa.

El dominio de las matemáticas, la línea roja

Al mismo tiempo que significa un gran avance, el hecho de conquistar las matemáticas preocupa a los investigadores de la compañía. Hasta ahora, los programas que trabajan con IA generativa han servido para escribir y traducir a través de su sistema de predicción estadística. Además de otras funciones, las respuestas que da a las preguntas de los usuarios son muy variadas. 

Dominar las matemáticas, en las que solo existe una respuesta, permitiría a la IA mayores capacidades de razonamiento, las cuales serían similares a la inteligencia humana. Los investigadores creen que esto podría aplicarse a investigaciones científicas, por ejemplo.

A diferencia de los cálculos que realiza una calculadora, la inteligencia artificial aprende a medida que opera. En este apartado es donde señalan el peligro.

Los informáticos llevan mucho tiempo debatiendo el peligro que suponen unas máquinas muy inteligentes. Sobre todo si las mismas pudieran decidir si la destrucción de la humanidad "es de su interés".

Los investigadores también han señalado el trabajo de un equipo llamado Científicos de IA, cuya existencia confirmaron a Reuters múltiples fuentes.

El grupo, formado por equipos anteriores de las empresas Code Gen y Math Gen, está explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y eventualmente realizar trabajos científicos.