Inteligencia artificial: Expertos piden control humano sobre la IA y Trump llama «bulo» al riesgo

Pekín/Washington/Expertos reunidos hoy en Pekín defendieron la necesidad de reforzar la supervisión humana, los mecanismos de seguridad y la cooperación internacional ante los riesgos de la inteligencia artificial (IA), aunque rechazaron que otros países deban elegir entre China y EE UU en esta tecnología.

El debate tuvo lugar este martes en el marco de la decimotercera edición del Foro Xiangshan, la principal cita de diplomacia militar organizada por China y que se inaugurará formalmente mañana, miércoles.

La agenda del evento este año incluye entre sus temas la gobernanza de las tecnologías emergentes, la estabilidad estratégica y la competencia entre grandes potencias.

El ex secretario general de la Organización de Cooperación de Shanghái (OCS) Vladimir Norov afirmó que los riesgos derivados de la IA son “serios” y defendió que los gobiernos refuercen su capacidad de supervisión junto con empresas tecnológicas y laboratorios de ideas.

Vladimir Norov afirmó que los riesgos derivados de la IA son “serios” y defendió que los gobiernos refuercen su capacidad de supervisión

Norov advirtió de que la tecnología avanza más rápido que la capacidad de las instituciones para regularla, por lo que defendió crear un intercambio de información sobre riesgos e incidentes graves relacionados con la IA.

Norov, también ex ministro de Exteriores de Uzbekistán y presidente de la Asociación de Inteligencia Artificial de Asia Central, sostuvo que los sistemas de IA avanzan con rapidez y que “ningún país puede gestionarlos en solitario”.

Por su parte, el general emiratí retirado Obaid Al Ketbi, ex alto cargo del Ministerio de Exteriores de Emiratos Árabes Unidos, señaló que el avance de los agentes de IA, capaces de planificar, coordinar y ejecutar tareas complejas, obliga a situar el control humano como prioridad.

“Si dejamos las cosas a la IA sin control humano, será realmente duro y difícil”, afirmó Al Ketbi, quien defendió una regulación proporcional al riesgo. Ambos participantes coincidieron además en rechazar una lógica de bloques entre Pekín y Washington.

Norov afirmó que los países de Asia Central no quieren ser “consumidores pasivos” de IA ni verse obligados a elegir entre China y Estados Unidos, sino lograr “asociación, no dependencia” y transferencia tecnológica. Al Ketbi sostuvo una posición similar para Oriente Medio, al señalar que la región debe poder cooperar con ambas potencias y desarrollar capacidades propias.

El debate se produce después de que directivos tecnológicos estadounidenses pidieran ralentizar el desarrollo de los modelos más avanzados por motivos de seguridad, una posición rechazada por el presidente estadounidense, Donald Trump, que considera que una mayor regulación podría beneficiar a China.

Pekín, por su parte, ha defendido en los últimos días una IA “orientada al bien”, al tiempo que acusa a Washington de utilizar argumentos de seguridad para frenar el desarrollo tecnológico chino.

«La idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO», escribió el mandatario en su red social Truth Social

Por su parte, Trump llamó este lunes al presidente de Nvidia, Jensen Huang, durante su participación en la cumbre All-In en Los Ángeles y aprovechó la conversación para desestimar los temores sobre los riesgos del desarrollo de la inteligencia artificial.

«Puede crear el mejor chip de IA del mundo, pero no sabe cómo ponerme en altavoz», bromeó Trump durante la llamada, que se produjo mientras Huang participaba en la cumbre anual sobre tecnología, mercados e inteligencia artificial.

Durante la breve intervención del mandatario, ambos coincidieron en que la inteligencia artificial es un importante motor de crecimiento económico y de seguridad nacional para EE UU.

Previamente, Trump calificó como «bulo» la idea de que la IA vaya a destruir la humanidad y criticó a los líderes del sector que han reclamado una regulación de esta tecnología. 

«La idea de que la IA domine el mundo, destruya a la humanidad y cause todo tipo de males es un BULO», escribió el mandatario en su red social Truth Social.

«La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia, superior al petróleo, el oro, los diamantes e incluso internet»

La polémica la desató el sábado el director ejecutivo de Anthropic, Dario Amodei, quien publicó un ensayo en el que pedía «un ritmo más lento» para la industria ante los crecientes riesgos de seguridad de la IA.

A esa advertencia se sumaron sus rivales Sam Altman, de OpenAI, y Elon Musk, de xAI, en una coincidencia poco habitual en el sector.

Sus declaraciones se produjeron después de que, el martes pasado, el investigador de IA Jacob Coxon dimitiera y acusara a sus antiguos empleadores, Anthropic y OpenAI, de embarcarse en una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad esta misma década.

Trump, en cambio, se opone a regular el sector porque considera que ello retrasaría a EE UU en la competencia con China por el liderazgo tecnológico. «La IA y los centros de datos serán el mayor motor de desarrollo económico de la historia, superior al petróleo, el oro, los diamantes e incluso internet», subrayó el mandatario.