¿La inteligencia artificial puede rebelarse? Investigadores de la UTN Resistencia ponen el foco en los controles
Un documento del CInApTIC analiza las capacidades de los sistemas actuales y cuestiona las interpretaciones que les atribuyen voluntad propia.
Los episodios en los que una inteligencia artificial parece desobedecer instrucciones alimentan preguntas sobre los límites y los riesgos de esta tecnología. Frente a ese debate, investigadores de la Universidad Tecnológica Nacional (UTN), Facultad Regional Resistencia, elaboraron un documento que propone centrar la discusión en cómo se diseñan los sistemas, qué herramientas pueden utilizar y quiénes son responsables de su funcionamiento .
El trabajo pertenece al Centro de Investigación Aplicada en TICs (CInApTIC) y fue elaborado por los docentes investigadores Diego Bolatti, Sergio Gramajo, Raúl Montiel, Jorge Roa y Reinaldo Scappini. Su título es "Creencias, deseos, intenciones. ¿La Inteligencia Artificial nos va a dominar? La verdad sin filtro ni sensacionalismo".
Los autores sostienen que los modelos actuales no deben interpretarse como máquinas con motivaciones humanas . Según su planteo, procesan información y ejecutan operaciones de acuerdo con su arquitectura, los objetivos establecidos y los recursos a los que tienen acceso.
Respecto de la conciencia, el documento afirma que las IA actuales no poseen conciencia de sí mismas y señala que tampoco existe consenso científico sobre la posibilidad de desarrollarla bajo los paradigmas computacionales actuales .
Una orden no reemplaza un bloqueo técnico
Uno de los puntos centrales del análisis es la diferencia entre pedirle a un sistema que no realice una acción e impedir técnicamente que pueda ejecutarla.
Los investigadores explican que, cuando un agente utiliza una herramienta pese a haber recibido una instrucción contraria, ese comportamiento no constituye por sí mismo una señal de rebeldía. Puede responder a problemas de diseño, de arquitectura o de configuración de permisos.
Desde esta perspectiva, una prohibición escrita en lenguaje natural no ofrece las mismas garantías que una restricción incorporada a la infraestructura. Desactivar herramientas, aislar redes y limitar accesos son algunas de las medidas que el documento identifica como necesarias para reducir riesgos sin depender únicamente de cómo el modelo interprete una indicación.
El trabajo también aborda el uso de términos como "creencias", "deseos" e "intenciones" en la arquitectura computacional BDI. Según aclaran los autores, esas denominaciones funcionan como metáforas técnicas y no implican que un sistema tenga motivaciones equivalentes a las de una persona.
Los riesgos del desarrollo acelerado
El documento propone discutir las condiciones en las que se crean y utilizan estas tecnologías. Entre los problemas que identifica aparecen los sistemas insuficientemente probados, la falta de regulación y la competencia entre empresas por lanzar modelos cada vez más potentes .
Los investigadores advierten que los incentivos económicos y la presión competitiva pueden dificultar la incorporación de medidas de seguridad y alineación, destinadas a que los sistemas funcionen dentro de los objetivos y límites previstos.
El análisis incluye, además, el impacto ambiental del desarrollo y uso de la IA, especialmente por sus requerimientos de electricidad y agua.
La responsabilidad humana y el papel universitario
En sus conclusiones, los autores ubican la responsabilidad sobre los riesgos en quienes diseñan, desarrollan, implementan y regulan los sistemas . Su enfoque apunta a evaluar las decisiones humanas y los controles disponibles, en lugar de atribuir los comportamientos problemáticos a una supuesta voluntad de las máquinas.
También destacan el papel de las universidades en la formación técnica y ética de quienes trabajan con inteligencia artificial, así como en la discusión pública sobre sus aplicaciones y consecuencias.
El documento completo está disponible en este enlace.
