Durante el día de ayer, OpenAI confirmaba que no tiene planes de salir a bolsa a corto plazo, justificándose en que todavía no está preparada para dar ese paso. Sin embargo, sí que está buscando respaldo federal para ejecutar nuevas inversiones que le permitan seguir creciendo.
Sarah Friar, directora financiera de OpenAI, tuvo una conversación muy interesante con The Wall Street Journal durante el día de ayer. En ella, confirmó que la firma liderada por Sam Altman todavía no está preparada para dar el paso a cotizar en el parqué. Tras muchos rumores que apuntaban a una salida inminente, la compañía ha preferido optar por una estrategia más conservadora que le permita seguir creciendo de forma sostenible.
Su plan pasa, sin embargo, por buscar una garantía federal que le permita simplificar la financiación de las grandes inversiones que debe realizar la compañía en chips de Inteligencia Artificial para dotar a los centros de datos de las capacidades tecnológicas necesarias. De forma paralela a ello, países como Estados Unidos o Reino Unido han liderado recientemente sendas investigaciones en las que alertan sobre las deficiencias, algunas de ellas muy graves, que tiene actualmente la IA.
La IA actual tiene fallos en casi todas las áreas de acción
Científicos informáticos del Instituto de Seguridad de Inteligencia Artificial del gobierno británico y expertos de seguridad de universidades como Stanford, Berkeley y Oxford analizaron más de 440 puntos de referencia de los principales modelos de IA. Sus conclusiones preliminares extrajeron que “casi todos… tienen debilidades en al menos un área”, explicando que “socavan la validez de las afirmaciones resultantes”.
Debido a que no existe una regulación nacional o internacional todavía, tanto EEUU como Reino Unido analizaron diferentes puntos de referencia que tienen que ver con los intereses humanos, el razonamiento, las matemáticas o la programación.
Recordamos que durante la semana pasada, Google retiró uno de sus últimos modelos, Gemma, al difundir noticias falsas sobre una senadora estadounidense. Un acto que se consideró para la comunidad científica “un acto de difamación producido y distribuido por un modelo de IA propiedad de Google”. Esto supone una buena demostración de los riesgos a los que estamos expuestos actualmente usando este tipo de herramientas.
Un fallo catastrófico
Que una herramienta de acceso público, como es un modelo de IA, se invente acusaciones penales falsas contra un cargo de responsabilidad “representa un fallo catastrófico de supervisión y responsabilidad ética”, afirman los investigadores.
Pese a ello, desde Google afirmaron que los modelos Gemma no están diseñados para ofrecer asistencia a los consumidores, sino como herramienta para desarrolladores e investigadores de IA.
Las alucinaciones de la Inteligencia Artificial
No es la primera vez que leemos noticias sobre las alucinaciones momentáneas que tienen los modelos de IA actuales. De hecho, si has utilizado ChatGPT con una relativa frecuencia durante los últimos meses, seguro que te has encontrado con respuestas que nada tenían que ver con la pregunta que has realizado o que mezclaban temas de preguntas del pasado.
La forma en la que están programados la mayoría de los modelos, con un comportamiento que busca siempre satisfacer todo lo que quieren oír los usuarios, es uno de los desafíos más relevantes que tiene la industria de la IA para los próximos años. Se trata de un paso que es necesario para que los modelos mejoren y puedan cumplir con las necesidades de los usuarios que acuden a ellos para resolver diferentes cuestiones del día a día.