Idoia Salazar (OdiseIA): La humanidad desaparecerá, pero si no aprovecha la IA

El mundo no puede afrontar los problemas globales -el cambio climático o las crisis sanitarias- sin las mejores tecnologías, según la presidenta del Observatorio del Impacto Social y Ético de la IA, Idoia Salazar, quien mantiene que la humanidad desaparecerá, "pero si no aprovecha la inteligencia artificial".

"El problema no radica en la tecnología, sino en el uso que hacemos de ella", ha señalado Salazar en una entrevista con la Agencia EFE, durante la que defiende la utilidad de la IA para resolver desafíos críticos y asegura que los discursos alarmistas de los últimos días responden a intereses económicos y estrategias de mercado de los gigantes tecnológicos. "Ni puede ni debe frenarse".

La presidenta de este observatorio (rebautizado ahora como Fundación OdiseIA4Good), reconoce los riesgos que se pueden derivar de un mal uso de la IA, e incide en la importancia de una regulación estricta y ética inspirada en el modelo europeo para generar confianza y de asegurar la supervisión humana frente a soluciones completamente automatizadas.

OdiseIA surgió con la idea de velar por el uso responsable y ético de la inteligencia artificial y en la actualidad está respaldada por numerosas grandes empresas, universidades y personas relacionadas con este ámbito científico y tecnológico.

"No debemos querer frenar la IA"

Idoia Salazar lleva casi dos décadas trabajando en asuntos relacionados con la ética y la gobernanza de la IA, y durante los últimos años ha estrechado su colaboración con la Unesco, el Foro Económico Mundial o el Gobierno, con el que ha colaborado para la puesta en marcha de un 'sandbox regulatorio' -un entorno controlado en pruebas que permite probar productos tecnológicos innovadores bajo una supervisión directa-.

Aunque considera que los 'apocalípticos' discursos de algunos responsables de empresas tecnológicas solo responden a intereses económicos, también valora que están contribuyendo a situar la IA en el centro del debate y desencadenando un mayor interés ciudadano por esta tecnología.

"No hay, ni deberíamos querer, ninguna posibilidad de frenar la IA", ha manifestado Salazar, y se ha preguntado si puede la humanidad afrontar los grandes desafíos del siglo -el cambio climático, la importancia de contar con una medicina personalizada, la necesidad de una energía eficiente y sostenible o las crisis sanitarias globales- sin contar con las mejores tecnologías; "seríamos muy poco inteligentes".

Idoia Salazar se ha referido a la brecha existente entre Estados Unidos y Europa en el desarrollo de estas tecnologías, pero también en el desarrollo de marcos regulatorios, y ha asegurado que muchas grandes compañías estadounidenses y chinas están reclamando normas y medidas que garanticen la seguridad de los sistemas y modelos de IA y que garanticen la confianza de los usuarios en esas herramientas.

El Reglamento Europeo, marco de referencia mundial

En ese sentido, considera que el Reglamento Europeo de Inteligencia Artificial es un marco que puede servir de referencia en otras regiones del mundo, ya que está fundamentado en los principios éticos y universales, delimita con nitidez cuáles son los diferentes niveles de riesgo de los modelos y de los sistemas que se ponen en el mercado, y asegura por ley la necesidad de que estén siempre sometidos a la supervisión humana.

La IA, según la presidenta de OdiseIA, va a propiciar muchos cambios en la vida cotidiana de las empresas y de las personas, "y no tiene que ser malo, siempre que seamos conscientes de que estamos interactuando con máquinas", y ha explicado que los seres humanos delegarán en sistemas de IA tareas de la misma manera que han delegado 'una parte de su memoria' en la agenda telefónica de los teléfonos inteligentes o una parte de su sentido de la orientación en los sistemas de navegación.

"La clave estará en hacerlo siempre de una forma consciente y sin perder nunca la referencia de que interactuamos con máquinas", ha manifestado Salazar, y ha puesto el foco en el control y en la supervisión humana, para que cualquier modelo o sistema que pueda en algún momento pueda suponer una amenaza real o un peligro para los derechos humanos o la seguridad disponga siempre de un botón de 'off'.