OpenAI aboga por la regulación de la IA para garantizar la seguridad humana

los lideres de IA abierta, la organización responsable del desarrollo de ChatGPT, piden la regulación de las inteligencias “superinteligentes”.

Abogan por la creación de un organismo regulador similar a la Agencia Internacional de la Energía Energía Atómica para proteger a la humanidad contra los riesgos de crear una inteligencia capaz de ruina.

En una breve declaración publicada en el sitio web de la compañía, los cofundadores Greg Brockman e Ilya Sutskever, junto con el director ejecutivo Sam Altman, llamar a la creación de un organismo regulador internacional para iniciar el trabajo de autenticación de los sistemas de inteligencia artificial.

La propuesta tiene como objetivo la realización de auditorías, pruebas de cumplimiento de estándares de seguridad e implementación de restricciones en los niveles de despliegue y seguridad. Estas medidas tienen como objetivo reducir el riesgo existencial asociado a estos sistemas, buscando proteger a la humanidad de peligros potenciales.

Durante varias décadas, los investigadores han destacado los riesgos potencialmente asociados con la superinteligencia, donde en realidad hemos visto una evolución. Sin embargo, a medida que el desarrollo de la IA avanza rápidamente, estos riesgos se vuelven cada vez más concretos.

O Centro para la seguridad de la IA (CAIS), con sede en los EE. UU., se dedica a mitigar los riesgos sociales asociados con la inteligencia artificial y ha identificado ocho categorías de riesgo consideradas “catastróficas” y “existenciales” relacionadas con el desarrollo de la IA, por ejemplo. Hay riesgos graves y estamos expuestos a ellos.

Los líderes de OpenAI piden una regulación de la IA

Es posible imaginar que, en los próximos 10 años, los sistemas de IA alcanzarán un nivel de habilidad especializada en varios dominios y llegar a ser tan productivo como algunas de las corporaciones más grandes que existen hoy en día, como expertos en IA abierta.

Esta rápida evolución de la IA tiene el potencial de transformar significativamente muchas industrias mientras mantiene la eficiencia y la automatización en muchas actividades productivas.

En términos de ventajas potenciales y protección, la superinteligencia se considera una tecnología más avanzada. poderosos que aquellos con los que la humanidad ha tratado en el pasado, dijo el mensaje de los líderes.

Existe la perspectiva de un futuro significativamente más próspero, pero es fundamental gestionar cuidadosamente los riesgos que implica alcanzar este escenario. Ante la posibilidad de riesgos existenciales, como informaron en una nota, es fundamental adoptar una postura proactiva, en lugar de limitarse a responder a las situaciones a medida que se presentan.

En el contexto inmediato, el grupo enfatiza la necesidad de “algún nivel de coordinación” entre las empresas involucradas en investigación avanzada. en IA, con el fin de asegurar una integración fluida de modelos cada vez más potentes en la sociedad, con especial prioridad en seguridad.

Dicha coordinación podría establecerse a través de iniciativas o convenios colectivos que busquen limitar el avance de la capacidad de la IA. Estos enfoques serían clave para garantizar que el desarrollo de la IA se permita de manera controlada y responsable, considerando los riesgos involucrados.

Amante del cine y las series y todo lo que implica el cine. Un curioso activo en las redes, siempre conectado a la información de la web.