OpenAI Q, una IA que es una amenaza para la humanidad

Un grupo de investigadores ha revelado que el avance de la inteligencia artificial igualaría o superaría las habilidades humanas.

La situación en la empresa OpenAI ha dejado impactado al mundo de la inteligencia artificial en los últimos días debido al despido de Sam Altran. En la compañía, varios investigadores dirigidos por Helen Toner, una de las dirigentes de la junta de gobierno mantuvieron un pulso interno por hacerse con el dominio de OpenAI. Para ello, enviaron una carta alertando de que Altman estaba trabajando en una herramienta inteligente que podría poner en riesgo a la humanidad, por las características tan avanzadas que tenía.

Reuters llevó a cabo un estudio del proyecto llamado ‘Q-Star‘, y muchos integrantes de la empresa pensaron que se estaba buscando encontrar la fórmula más avanzada de la general. De tal forma que las tareas más complejas de los humanos se verían superadas por las labores de unos sistemas que pondrían en evidencia a las personas a la hora de realizar ciertas tareas.

Hay que destacar que esa herramienta en 2015,  se creó con el propósito de actuar como un sistema similar al cerebro humano. Sin embargo, tras el éxito y los avances del chatbot Chat GPT, comienzan a tener esta forma de inteligencia artificial como mecanismo para ganar beneficios económicos, dejando de lado el peligro que podría llegar a suponer. En la empresa de OpenAI se ha creado una guerra interna entre las diversas opiniones de los empleados de OpenAI. Algunos conciben a ‘Q-Star’ como una gran fórmula para llegar a la IAG (inteligencia artificial generalizada), mejorar la inteligencia de los humanos y llevar a cabo materias para ganar dinero. 

Por otra parte, están los empleados que creen que es un riesgo y advierten del peligro potencial para la humanidad que puede suponer llevar al extremo con la herramienta de ‘Q-Star’. En medio hay algunos directivos como el vetado Toner, que confiaba en parar el desarrollo de los sistemas hasta que se comprendiese el peligro.

¿Puede la IA garantizar el dominio de las matemáticas?

Algunos de los inconvenientes que tendría ‘Q’ es que sus capacidades resolverían problemas de matemáticas a los estudiantes sin que estos requieran de esfuerzos. Los investigadores conciben a las matemáticas como el límite para que la IA interfiera en el desarrollo.

Casi el 100% de los 770 empleados llegaron a firmar otra carta mostrándole apoyo a Altman para que liderase el proyecto. Sin embargo, Ilya Sustkeyer, un pionero de la IA fue clave en su despido porque le considera un problema en la investigación. El propio Sutskeye se terminó arrepintiendo y al igual que Altman dejó sus funciones relacionadas con la dirección en OpenAI.

Mientras tanto, Altam continúa triunfando en Microsoft, donde invirtió 13.000 millones y su idea de reforzar la IA se ha expandido.