Una corriente catastrofista sobre la inteligencia artificial en la que se encuentra, por ejemplo, el reciente premio Nobel de física Geoffrey Hinton, recela en voz alta sobre los efectos que la IA puede tener en el futuro de la humanidad si se le permite que tome decisiones propias sobre sistemas que resulten vitales para las personas. El temor de este grupo minoritario, pero acreditado de científicos es que, al gobernar infraestructuras como servicios de suministro, una IA pueda anteponer intereses propios sobre los de los humanos e incluso actuar contra estos. El grado de desarrollo alcanzado por la inteligencia artificial hasta hoy no permite todavía una situación como la de una máquina con voluntad, pero existe una tendencia a probar los nuevos modelos al mando de sistemas complejos que podría ponerla a prueba. Ya están aquí.
La compañía Anthropic ha anunciado que su modelo de IA actualizado Claude 3.5 Sonnet es capaz de interactuar con un PC por su cuenta. A través de una nueva función de uso del ordenador, ahora en modo de prueba abierto a los desarrolladores de software, el modelo puede imitar las pulsaciones de teclas, los clics de botones y los gestos del ratón. Exactamente como si el computador fuera utilizado por un ser humano. La utilización de estos “agentes de IA” se ha convertido en una carrera entre compañías. “Hemos entrenado a Claude para que vea lo que ocurre en la pantalla y utilice las herramientas de software disponibles para llevar a cabo las tareas”, explica Anthropic en su blog.
Pero la propia compañía advierte a quienes lo prueban que está función de la IA como principal fuerza decisoria ante la máquina “plantea riesgos únicos” que además “aumentan cuando se utiliza el ordenador para interactuar con internet”. Así que Anthropic propone tomar varias precauciones varias, como evitar dar al modelo acceso a datos sensibles, “como información de inicio de sesión de cuentas, para evitar el robo de información”, limitar el acceso a internet a una única lista de dominios permitidos y que un humano “confirme las decisiones que puedan tener consecuencias significativas en el mundo real”. A partir de aquí empiezan a surgir dudas entre quién debe controlar una máquina como un ordenador personal. Por ejemplo: ¿dejaríamos a una IA el poder de controlar nuestras cuentas bancarias?
Google también prepara su propia versión de agente de IA para el mes de diciembre, según The Information. El proyecto, que se llama Jarvis -como la IA de Iron Man- haría tareas en lugar del usuario como “recopilar información, comprar un producto o reservar un vuelo”. A diferencia del modelo de Anthropic, Jarvis se basará en una versión de la IA Gemini todavía no publicada y que funcionaría en el navegador Chrome. Su objetivo sería “automatizar tareas cotidianas basadas en la web”. Poner a una máquina a actuar por su cuenta con acceso a internet puede comportar algunos riesgos de seguridad, por lo que el calendario de presentación a finales de este año no es seguro e incluso podría estar a prueba entre algunos expertos externos antes de abrir su uso de una forma más general.
En esta carrera no puede faltar Microsoft, con su función Copilot Vision, que permite al asistente de IA ver la página web que el usuario tiene abierta en la pantalla, se le podrán hacer preguntas sobre cualquiera de los contenidos a la vista. El sistema responde de forma natural y ayuda tanto en tareas de trabajo como, por ejemplo, en la selección de artículos durante una compra online. De cara sus clientes corporativos, Microsoft está ofreciendo crear agentes de IA para tareas específicas, como cualificación de ventas, comunicaciones con proveedores o gestión de la intención del cliente. Amazon Web Services dispone de varios tipos de agentes de IA para sus clientes y ya los explica y publicita. En definitiva, que suplan en rapidez y costos lo que hacen seres humanos.
OpenAI, por su parte, también trabaja en agentes de IA que automatice tareas complejas y se haga con el control del ordenador. Llegarán en el 2025. Entre los ejemplos, un usuario podrá pedir que ChatGPT transfiera datos de un documento a una hoja de cálculo para hacer un análisis o hacer que rellene un informe de gastos de forma automática y lo introduzca en un programa de contabilidad. De la misma forma que el modelo de Anthropic, el de OpenAI podría ejecutar movimientos y clics del cursor y escribir información y otros datos dentro de algunas aplicaciones. El debate sobre dejar que la inteligencia artificial tenga acceso a todo lo que tenemos en la pantalla y pueda tomar sus propias decisiones va a poner nuestra confianza en la tecnología a prueba. - Francesc Bracero en la vanguardia.
.jpg)
0 Comentarios