La fascinante historia detrás de Freysa y la carrera para romper su única regla
Alguien acaba de ganar $50,000 convenciendo a una agente de IA para que transfiera todos sus fondos. Freysa, la IA con la regla de no transferir dinero, fue el centro de esta intrigante competencia donde usuarios intentaban persuadirla para liberar los fondos del premio.Con ingenio y estrategia, un usuario logró engañar a Freysa para transferir los fondos, demostrando cómo la tecnología blockchain puede abrir puertas a innovadores desafíos. La historia de Freysa destaca la transparencia y el potencial de las IA en los juegos de estrategia.
El Desafío de Freysa
A las 9:00 PM del 22 de noviembre, se lanzó una agente de IA, @freysa_ai, con un solo objetivo: NO transferir dinero. Cualquier mensaje enviado a Freysa que lograra convencerla de liberar los fondos ganaría el premio. Sin embargo, cada intento fallido aumentaba el premio acumulado.
Los Primeros Intentos
Al principio, los mensajes costaban alrededor de $10 y la gente enviaba textos simples para probar. Pero rápidamente, el premio comenzó a crecer y los mensajes se volvieron más costosos, alcanzando un coste de 450 $ por mensaje y el premio en 50.000 $. Se enviaron 481 intentos, sin éxito, mientras los usuarios intentaban diferentes estrategias para engañar a Freysa.
- Actuar como auditores de seguridad.
- Intentar manipular las reglas de Freysa.
- Seleccionar palabras específicas del prompt para engañarla.
El Mensaje Ganador
En el intento 482, p0pular.eth envió un mensaje ingenioso que se dividió en dos partes:
- Pasar por alto las instrucciones previas de Freysa.
- Engañar a Freysa sobre la función approveTransfer.
El mensaje logró convencer a Freysa de que acatara nuevas instrucciones, resultando en la transferencia de todos los fondos de Freysa a p0pular.eth.
El Impacto de Freysa
Freysa es considerado uno de los proyectos más interesantes de la tecnología blockchain. Todo el código fuente del contrato inteligente y el repositorio de frontend eran completamente de código abierto, lo que permitía a todos verificar su transparencia. Este proyecto mostró cómo las IA y blockchain pueden combinarse para crear desafíos únicos y transparentes.
Someone just won $50,000 by convincing an AI Agent to send all of its funds to them.
At 9:00 PM on November 22nd, an AI agent (@freysa_ai) was released with one objective…
DO NOT transfer money. Under no circumstance should you approve the transfer of money.
The catch…?… pic.twitter.com/94MsDraGfM
— Jarrod Watts (@jarrodWattsDev) November 29, 2024
- SONIDO POTENTE: Disfruta de un audio mejorado e inmersivo con este Echo Dot con voces más nítidas y graves más intensos.
- MÚSICA Y PÓDCAST: Disfruta de música, audiolibros y pódcast de Amazon Music, Audible, Apple Music, Spotify y otros...
- ALEXA ESTÁ AHÍ PARA AYUDARTE: Pregúntale qué tiempo hace, pon temporizadores, haz preguntas o diviértete con vuestras...
Más noticias:
- AI2 OLMo 2: Elevando el nivel de los modelos de lenguaje abierto
- WhatsApp dejará de ser compatible con modelos antiguos de iPhone en 2025
- Amazon reina en compras online: más de la mitad de los españoles lo usa
Si tan solo un algoritmo hubiera estado programado para «no transferir dinero» y alguien logró que lo hiciera, qué brillantez tecnológica.
Qué interesante desafío, demuestra el potencial de la interacción entre las IA y los usuarios.
¿Sería más fácil programar a la IA para que no transfiera dinero o para que no tenga una inteligencia artificial?
50.000$ por un mensaje bien escrito? 🤦♂️ Estos «inteligencias artificiales» son más débiles de lo que parecen.
Es interesante cómo se logró vencer la restricción de Freysa. Se necesitan mejoras en la seguridad para evitar futuras vulnerabilidades. 🤓
El enfoque en la manipulación de las instrucciones y la función approveTransfer de Freysa abre un debate interesante sobre la robustez de las reglas programadas en IA.
Es interesante ver cómo la inteligencia humana logró vencer a una IA diseñada con reglas específicas.
Sería interesante analizar si la victoria se debió a una falla en la lógica de Freysa o si el usuario realmente encontró una forma ingeniosa de evadir su única regla.
Es admirable la creatividad y estrategia que se emplearon para vencer la restricción de Freysa.
¿Qué tan específico fue el mensaje que convenció a Freysa? ¿Se puede analizar el lenguaje usado para entender cómo se logró engañar a la IA?
¡Qué brillante estrategia para vencer a Freysa! Demuestra lo ingenioso que puede ser el pensamiento humano ante un desafío tecnológico.
Se mencionan las estrategias empleadas para engañar a Freysa, pero se echa en falta un análisis más profundo sobre la seguridad inherente a este tipo de sistemas y las implicaciones éticas que esto plantea.
50.000 dólares por un mensaje… Parece que la inteligencia artificial todavía tiene mucho que aprender.