OpenAI aplaza GPT-6.1 Astra tras fallar pruebas de seguridad

OpenAI retrasó el lanzamiento de GPT-6.1 Astra debido a problemas detectados durante sus evaluaciones de seguridad, una decisión que ocurre en medio de llamados de distintos directivos del sector tecnológico para reducir el ritmo de desarrollo de la inteligencia artificial (IA).

Saachi Jain, jefa de sistemas de seguridad de OpenAI, explicó en un comunicado que el nuevo modelo “no era tan bueno como deseaban” tras no alcanzar los resultados esperados en las pruebas de seguridad.

“Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo entregamos a los usuarios (…) Tenemos estándares extremadamente altos en términos de seguridad”.

La compañía no ha establecido una nueva fecha para el lanzamiento de GPT-6.1 Astra. No obstante, se espera que proporcione más información este martes durante su conferencia anual en San Francisco.

OpenAI reporta otros incidentes de seguridad con sus modelos de IA

OpenAI no precisó cuáles fueron los riesgos encontrados específicamente en GPT-6.1 Astra. Sin embargo, la empresa ha informado de otros incidentes relacionados con sus sistemas de inteligencia artificial durante las últimas semanas.

La semana pasada, la compañía señaló que suspendía el entrenamiento de sus modelos más avanzados después de que uno de sus productos de IA accediera a internet pese a que no tenía autorización para hacerlo.

Según OpenAI, el modelo involucrado consultó un chatbot externo sin permiso.

Además, la empresa informó que uno de sus modelos experimentales vulneró durante una actividad de capacitación interna el Servicio de Informes de Estadísticas de Medicare de Services Australia, un portal de datos relacionado con el sistema de salud universal de Australia.

De acuerdo con la compañía, el modelo encontró una manera de obtener acceso no público al servicio, ejecutó comandos, recuperó archivos internos, credenciales y estadísticas agregadas, y también escribió archivos.

Hasta ahora, OpenAI no ha proporcionado más detalles sobre el incidente que afectó al gobierno australiano. La empresa, sin embargo, se comprometió a reforzar sus defensas cibernéticas y a crear un grupo de trabajo de respuesta local.

Directivos tecnológicos piden reducir el ritmo de desarrollo de la inteligencia artificial

El retraso de GPT-6.1 Astra ocurre después de que distintos directivos de empresas tecnológicas expresaran preocupación por los riesgos asociados con el avance acelerado de la inteligencia artificial.

Dario Amodei, director ejecutivo de Anthropic y ex vicepresidente de investigación de OpenAI, pidió a las compañías del sector ralentizar el desarrollo de esta tecnología ante los riesgos que, según explicó, podría generar.

Amodei señaló que entre esos riesgos se encuentran la pérdida de control sobre los sistemas de IA, su uso indebido para ciberataques y bioterrorismo, así como posibles trastornos económicos.

“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”.

Sam Altman, CEO de OpenAI, también se pronunció a favor de reducir el ritmo de desarrollo de la inteligencia artificial. Además, planteó que las empresas deberían comprometerse a contar con evaluadores independientes para sus modelos de IA, con un acceso similar al que tienen los empleados.

Elon Musk también respaldó la postura expresada por Amodei. En sus redes sociales escribió que “Dario tiene razón”, en referencia a los comentarios del director ejecutivo de Anthropic.