Bill Gates pide regular la inteligencia artificial ante sus riesgos

Bill Gates advirtió que la inteligencia artificial es “lo suficientemente poderosa” como para causar mil millones de muertes si se utiliza con mala intención y sostuvo que los gobiernos deben intervenir para establecer medidas de seguridad y supervisión sobre esta tecnología.

El multimillonario y filántropo hizo las declaraciones en una entrevista con Meet the Press, cuyo contenido fue adelantado el viernes por NBC News. Sus comentarios ocurren mientras en Estados Unidos continúa el debate sobre la regulación de la IA y antes de una reunión prevista para el martes entre el presidente Donald Trump, el presidente de la Cámara de Representantes, Mike Johnson, y ejecutivos de empresas del sector.

Bill Gates pide regulación gubernamental para la inteligencia artificial

Durante la entrevista, Gates fue cuestionado sobre las advertencias de trabajadores de la industria tecnológica que consideran que los avances de la IA podrían representar una amenaza para la humanidad.

“La IA es sin duda lo suficientemente poderosa como para impulsar eventos que … causar mil millones de muertes”,

dijo Gates, quien añadió que “nunca ha habido un arma tan poderosa como la combinación de personas con malas intenciones usando las últimas herramientas de IA.”

El también cofundador de Microsoft se pronunció además sobre la posibilidad de que las propias compañías del sector establezcan mecanismos para limitar los riesgos derivados de sus sistemas.

Gates consideró que la autorregulación empresarial no es suficiente y afirmó que debe existir legislación específica. También señaló que las fuerzas del orden y los políticos deben participar en las discusiones sobre las salvaguardas y los mecanismos de vigilancia relacionados con la inteligencia artificial.

El debate sobre la regulación de la IA llega al gobierno de Trump

Las declaraciones de Gates se producen antes de la reunión programada para el martes entre Donald Trump, Mike Johnson y ejecutivos de inteligencia artificial. Hasta ahora no se ha definido públicamente cuál será el enfoque específico del encuentro ni qué líderes de empresas del sector participarán.

Johnson, republicano de Luisiana, había planteado anteriormente que Trump y los directivos de las compañías de IA deberían reunirse para resolver el debate sobre las responsabilidades de la industria. La semana pasada también dijo que debía existir una discusión sobre la responsabilidad de las empresas para garantizar la seguridad y sobre el posible papel del gobierno.

El encuentro tendrá lugar después de que figuras del sector, entre ellas Elon Musk y el director ejecutivo de OpenAI, Sam Altman, asistieran el jueves a una cena de Estado en la Casa Blanca.

La regulación de la inteligencia artificial enfrenta obstáculos en el Congreso

El Congreso estadounidense tampoco ha mostrado hasta ahora una urgencia clara para aprobar una legislación integral sobre IA. Johnson y el líder de la mayoría en el Senado, John Thune, republicano de Dakota del Sur, han mantenido una posición cautelosa respecto a convertir el tema en una prioridad inmediata.

Thune ha respaldado durante años la regulación de la inteligencia artificial y presentó legislación sobre el tema en 2023. Sin embargo, a mediados de septiembre señaló que todavía estaba por determinarse si el Senado podría aprobar una ley de IA antes de que terminara el año.

“Conseguir algo a corto plazo va a ser un reto dado el resto de las cuestiones con las que estamos lidiando”, dijo Thune a periodistas.

El líder del Senado también ha mantenido conversaciones sobre la posibilidad de retomar el proyecto. De acuerdo con sus declaraciones a Axios el miércoles, la senadora Amy Klobuchar, demócrata de Minnesota y coautora del anterior proyecto de ley de Thune, trabaja para obtener más respaldo demócrata antes de que la iniciativa vuelva a presentarse en el Congreso.

La propuesta, basada en la versión presentada en 2023, contemplaría que los sistemas críticos de IA estén sujetos a certificación, además de establecer requisitos de transparencia para contenido creado con IA generativa. También incluiría evaluaciones de riesgos por parte de las empresas y más investigación gubernamental para identificar contenido generado mediante inteligencia artificial y determinar qué medidas de seguridad deberían aplicarse en la industria.

El destino de esa iniciativa, o de cualquier otra legislación relacionada con la IA, todavía está por definirse. También está pendiente saber si una eventual ley recibiría el respaldo del presidente Trump, aunque Thune dijo a Axios que considera que el mandatario podría estar más dispuesto a aceptar ciertas salvaguardas de inteligencia artificial de lo que ha expresado públicamente.

Las advertencias sobre los riesgos de la IA aumentan en las últimas semanas

El debate sobre la seguridad de la inteligencia artificial se intensificó después de que Jacob Coxon, exinvestigador de Anthropic, anunciara el 9 de septiembre su salida de la empresa y advirtiera sobre los riesgos que, a su juicio, enfrenta la humanidad ante el desarrollo de esta tecnología.

“Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década.”

Tras esas declaraciones, Evan Hubinger, responsable científico de alineación de Anthropic, respaldó la advertencia de Coxon. Hubinger afirmó que los responsables de IA creen que la tecnología podría matar a todos los humanos y estimó en 10% la posibilidad de que la inteligencia artificial aniquile a la humanidad durante la próxima década.

Hubinger también señaló que Anthropic todavía no tiene un plan para resolver el problema de la alineación de la superinteligencia y sostuvo que la empresa está claramente en camino de hacerlo.

Estas advertencias contribuyeron a intensificar las demandas de regulación. En ese contexto, Google, Anthropic y OpenAI se han unido tras la protesta y comenzaron a planificar un grupo dedicado a la seguridad en IA.

Además, Sam Altman y Dario Amodei han defendido esta semana una mayor cooperación internacional y estándares globales para la inteligencia artificial en las Naciones Unidas. Ambos argumentaron que las decisiones sobre esta tecnología deben estar determinadas mediante procesos democráticos y por gobiernos responsables ante las personas a las que representan.

Dario Amodei también pidió reducir el ritmo de desarrollo de la IA

Durante la entrevista, Gates fue consultado sobre un reciente ensayo de Dario Amodei, director ejecutivo de Anthropic, en el que planteó que los laboratorios que desarrollan sistemas de frontera deberían reducir el ritmo de sus avances y trabajar de manera voluntaria para establecer estándares en torno a la inteligencia artificial.

Amodei también defendió la intervención gubernamental, aunque advirtió que la aprobación de leyes puede tomar tiempo mientras el desarrollo de la IA avanza rápidamente.

Por su parte, Gates sostuvo que la respuesta no puede depender exclusivamente de la autorregulación de las compañías. Para el empresario, la discusión debe incluir tanto a los responsables políticos como a las autoridades encargadas de aplicar las normas y supervisar las medidas de seguridad.

La entrevista completa de Gates con Meet the Press está programada para transmitirse el domingo por la mañana.