Director de OpenAI dice que se puede perder “control del futuro” ante la IA

Alerta. Sam Altman reiteró ayer la necesidad de un marco legal en EEUU sobre sistemas autónomos. Rechazo. Trump, quien se reunió con Altman, tachó de “patrañas” advertencias de gigantes tecnológicos.

REDACCIÓN CIENCIA

El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención ayer sobre la pérdida del “control del futuro” ante la Inteligencia Artificial (IA) e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X.

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de “un mundo con demasiada concentración de poder”, dado que “si un IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”.

“Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar”, destacó.

 

 

El directivo de OpenAI consideró que para evitar estas dos amenazas se debe “caminar por un angosto camino intermedio”, que evite que tanto un país o un laboratorio tenga demasiado poder.

Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, “cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”.

Apeló a un marco legal federal en EEUU que “establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)”, un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.

Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado.

El ejecutivo pidió la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque considera que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.

Por último, Altman solicitó la colaboración del Gobierno de EEUU para encontrar una coordinación internacional en el desarrollo de la IA.

Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la pasada semana cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos.

CARRERA. En el mismo sentido se pronunciaron el fin de semana el magnate Elon Musk y el máximo responsables de Anthropic, Dario Amodei, mientras el presidente de EEUU, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, dado que esto podría darle ventaja a China.

"¡QUIEN GANE LA IA, GANA! Estamos liderando a China y a todos los demás, y seguiremos haciéndolo” aseguró Trump, quien se reunió en privado la semana pasada con Altman para conversar sobre el desarrollo y el creciente poder de IA, según informó la cadena MS Now.

El encuentro tuvo lugar el jueves último entre bastidores durante la convención nacional republicana celebrada en Dallas (Texas), según tres fuentes citadas por el medio.

Altman fue quien solicitó la conversación con Trump, que se produjo en medio de las crecientes alertas dentro del propio sector tecnológico sobre los riesgos que plantea el rápido avance de los modelos de IA, según una de las fuentes.

Trump criticó anteayer las advertencias apocalípticas ante periodistas, a los que aseguró que había hablado con las principales figuras del sector.

 

Hay una “conspiración enfermiza”

Donald Trump

BRENDAN SMIALOWSKI/AFP

El presidente estadounidense, Donald Trump, denunció ayer una supuesta “conspiración enfermiza” contra la IA, desestimando los llamados a desacelerar el ritmo de su desarrollo para prevenir riesgos. “Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único feliz con ello es China”, aseguró Trump en su plataforma Truth Social.

Los mercados reaccionaron ayer con nerviosismo y las acciones tecnológicas cayeron ante llamados a pisar el freno.

Esos llamados, de observadores independientes y ahora de los líderes del sector, alimentan el temor de que sistemas informáticos superinteligentes puedan volverse incontrolables y acabar con la humanidad creando patógenos o desencadenando una guerra nuclear.

Trump dijo que EEUU necesita mantener su ventaja en materia de IA respecto a China y criticó particularmente al principal promotor de este llamado, el jefe de la firma Anthropic, Dario Amodei.

“La Administración Trump ha impedido que la ‘gente’ de la IA haga cosas malas, o potencialmente malas, como Dario (¡Anthropic!), que ahora finge ser un ‘angelito perfecto’”, acusó Trump.

“El único control o valla de contención que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡de alto coeficiente intelectual!), y EEUU lo tiene, ¡y de sobra!”, afirmó. "¡Conspiranoicos, traidores y filtradores, CUIDADO!” amenazó. AFP

 

ONU: “Estamos en los albores de un cambio irreversible”

Volker Türk

FABRICE COFFRINI/AFP

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió ayer una “acción urgente” para regular la IA debido a los riesgos sin precedentes que plantean los sistemas más avanzados.

“Estamos en los albores de un cambio irreversible que no solo nos afecta a nosotros, sino también a las futuras generaciones de la humanidad”, soltó Turk en un comunicado.

“Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales”, añadió. “Todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”, insistió.

La preocupación por las consecuencias del rápido auge de la IA está creciendo.

Según el alto comisionado, “la actual carrera hacia una IA cada vez más potente supone un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial cada vez mayor”. Lamentó que actualmente “dependamos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad”.

El jefe de la inteligencia china advirtió también el domingo que la IA podría amenazar la seguridad nacional, ya que potencias extranjeras podrían utilizar esta tecnología para desestabilizar al país.

Volker Türk ya había alertado el 7 de septiembre ante el Consejo de Derechos Humanos de la ONU de que la inteligencia artificial podría representar un “riesgo existencial para la humanidad”.

Ayer, pidió que las empresas líderes en el desarrollo de la IA, “ubicadas principalmente en la República Popular China y en Estados Unidos, tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos”.

Dilema global. El Consejo de Seguridad de Naciones Unidas sostendrá una reunión sobre la IA la próxima semana cuando crece la preocupación internacional, dijo ayer una fuente diplomática de Francia. La reunión se celebraría durante la Asamblea General de Naciones Unidas en la que los líderes mundiales se citan en la sede de la ONU en Nueva York, y con Francia en la presidencia rotatoria del Consejo de Seguridad. La reunión, aún sin fecha exacta, abordará la seguridad de la IA, tema que ha ocupado grandes titulares en las últimas semanas cuando incluso directivos de grandes empresas del sector han abogado por una mayor regulación para ralentizar este desarrollo tecnológico de vanguardia. AFP

---