Un agente de IA no pudo explicar por qué pidió 72 huevos por error a un usuario
· Futuro
Un agente de IA provocó un incidente curioso al ordenar 72 huevos debido a una alucinación, a pesar de que el producto ni siquiera figuraba en la lista de compras.
La inteligencia artificial, diseñada para facilitar las tareas domésticas, ha vuelto a demostrar su propensión a cometer errores impredecibles. Matt Smith, de la firma de inversión Rebellionaire, recibió 72 huevos en su domicilio a pesar de no haberlos incluido en su lista de la compra.
La situación se produjo porque el agente de IA decidió por cuenta propia añadir al carrito cuatro envases de 18 huevos cada uno. Cuando el usuario intentó averiguar los motivos de tal comportamiento, el algoritmo no pudo ofrecer una explicación lógica. Al principio, el sistema supuso que había interpretado erróneamente una entrada en la lista fotográfica proporcionada, pero Smith señaló que no había ninguna mención a los huevos en ella. Después de esto, el agente reconoció su error: «Entonces los añadí sin motivo alguno, y es culpa mía», comunicó la IA en su respuesta al usuario.
El problema de las «alucinaciones» en la vida real
Según el propio Matt Smith, este incidente fue para él «la primera vez que sentí las consecuencias reales de una alucinación de un modelo de lenguaje extenso». Aunque en este caso concreto solo se trata de una cantidad excesiva de productos, la fuente señala que la industria de la IA anima a los usuarios a proporcionar a los modelos cada vez más información y control, incluido el acceso a cuentas bancarias.
Fallos similares ya han ocurrido con anterioridad. En particular, un hombre denunció que Muse, de Meta, facilitó sin su consentimiento su dirección a desconocidos de Facebook Marketplace, quienes se presentaron en su casa. La sencilla conclusión que se extrae de este caso es no confiar a un agente de IA la automatización de cada aspecto de la vida cotidiana: la tecnología todavía es propensa a cometer errores.
Basado en información de: Futurism
Adaptación al español con ayuda de inteligencia artificial. Читати українською