Los avances en inteligencia artificial no solo amplían sus aplicaciones: también aumentan la importancia de controlar lo que pueden hacer los sistemas sin intervención humana. France 24, con información de AFP, recoge los llamamientos de responsables políticos y empresarios tecnológicos a reforzar la seguridad de la IA en la cumbre de Dublín.
El debate se produjo en un contexto de preocupación por incidentes vinculados a agentes autónomos. Estos sistemas pueden ejecutar tareas y utilizar herramientas, lo que diferencia sus riesgos de los de un asistente limitado a producir texto.
Controles antes de escalar
Demis Hassabis, de Google DeepMind, describió los incidentes como señales de alerta y advirtió sobre la posibilidad de consecuencias graves si no se mejoran las medidas de seguridad. Se trata de una advertencia sobre riesgos futuros, no de la confirmación de un desenlace inevitable.
Brad Smith, de Microsoft, también defendió mecanismos que permitan detener actuaciones problemáticas. El foco se sitúa en combinar capacidad tecnológica con supervisión y límites operativos.
Para una empresa que estudia desplegar agentes de IA, la discusión es especialmente relevante: dar autonomía exige definir permisos, responsabilidades y posibilidades de intervención. La noticia original desarrolla las posiciones de los participantes y el contexto de sus declaraciones.
Fuente: France 24 / AFP. Resumen y redacción propios a partir de la información enlazada.
