Sam Altman reclamó en la ONU cooperación entre gobiernos y empresas para controlar los modelos más avanzados de IA.
La inteligencia artificial llegó al Consejo de Seguridad de la ONU con una advertencia que hasta hace poco parecía propia de una película de ciencia ficción: si los modelos más avanzados siguen aumentando sus capacidades a una velocidad mayor que la de los mecanismos de control, los seres humanos podrían «perder el control por completo» y dejar de comprender por completo cómo funcionan.
El CEO de OpenAI, Sam Altman, habló ante los representantes de los 15 países que integran el Consejo y pidió avanzar con «extremo cuidado» y reclamó que el desarrollo de una tecnología con alcance global no quede definido únicamente dentro de los laboratorios de las grandes compañías.
«Podríamos perder el control del futuro ante la IA», advirtió Altman al referirse al salto de capacidades que pueden alcanzar los sistemas más avanzados.
El planteo no fue un pedido para detener el desarrollo tecnológico. Por el contrario, el empresario defendió el potencial de la inteligencia artificial para acelerar descubrimientos científicos, ampliar las capacidades humanas y generar crecimiento económico, pero marcó un límite: los beneficios de la tecnología no deberían justificar asumir riesgos que todavía no pueden medirse correctamente.
La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance»
Los mismos que corrían, ahora piden frenar
Aunque Altman pertenece a una de las empresas más importantes de desarrollo de IA, ahora pide frenar y ser prudente. Sin embargo, buscó correrse de las dos posiciones extremas que dominan buena parte de la discusión pública sobre la inteligencia artificial: ni una aceptación total, ni una postura apocalíptica.
«No queremos caer en la trampa del optimismo ciego. Tampoco podemos sucumbir al catastrofismo», resumió.
Propuso continuar con la investigación y el desarrollo de modelos cada vez más capaces, pero acompañarlos con mecanismos de seguridad que permitan conocer sus capacidades, medir sus riesgos y comprobar que los controles funcionan antes de dar el siguiente paso.
El planteo adquiere relevancia porque los sistemas actuales ya no se limitan a responder preguntas. Algunos pueden utilizar herramientas externas, ejecutar tareas durante períodos prolongados y resolver problemas complejos con una intervención humana cada vez menor.
Para Altman, el desafío consiste en que la velocidad de esa evolución no termine superando la capacidad de las personas para supervisarla.
El director ejecutivo de Anthropic, Dario Amodei, coincidió con esta postura y lanzó una advertencia ante el Consejo: «Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto». En su intervención vía videollamada, el empresario dijo que harán una reducción del ritmo «tanto como sea necesario» para evitar que la tecnología sea insegura.
Los consejos de Altman para controlar la IA
Ante los representantes de Naciones Unidas, Altman sostuvo que los gobiernos deben involucrarse de manera directa en la definición de los estándares que regirán a los sistemas más avanzados.
Su propuesta incluye establecer mecanismos internacionales para medir las capacidades de los modelos, evaluar sus riesgos antes de desplegarlos, comprobar que las medidas de seguridad funcionen, informar incidentes graves, compartir información sobre vulnerabilidades críticas y mantener a las personas en el centro de las decisiones.
El punto político más relevante de su intervención fue que esas reglas no deberían quedar exclusivamente en manos de las compañías que desarrollan la tecnología.
Para Altman, ningún país ni una sola empresa debería concentrar el poder derivado de la inteligencia artificial. Por eso planteó una mayor cooperación entre gobiernos y empresas y la creación de estándares que puedan aplicarse más allá de las fronteras nacionales.
«A nivel internacional, esto significa cooperación», afirmó.
No es la primera vez que Altman hace una advertencia de este tipo. Semanas atrás, Open AI postergó su salida a la bolsa por los riesgos de la tecnología. «Creo que, dado todo lo que está sucediendo con la seguridad, este sería un momento poco recomendable para salir a bolsa, y no sentimos presión al respecto«, dijo Altman.
La advertencia sobre los límites de la IA
Durante las últimas semanas, el debate sobre los límites de la inteligencia artificial se aceleró después de una serie de advertencias provenientes de investigadores y ejecutivos que trabajan dentro de las propias compañías que desarrollan estos modelos.
Uno de los episodios que más ruido generó fue la renuncia del investigador Jacob Coxon, quien pasó por OpenAI y Anthropic y cuestionó públicamente la carrera de Silicon Valley hacia sistemas capaces de mejorar sus propias capacidades.
Al igual que ahora lo hace Altman, Coxon había advertido que las empresas compiten hacia una IA que podría superar los mecanismos de control humano.
Evan Hubinger, investigador de Anthropic especializado en alineamiento, llevó la discusión todavía más lejos y estimó en más de 10% la posibilidad de que una inteligencia artificial provoque la extinción humana durante la próxima década.
(fuente:https://www.baenegocios.com/)
