A unos días de que ClawdBot (ahora OpenClaw) y Moltbook explotaran en popularidad, los reportes sobre sus vulnerabilidades no dejan de surgir. Entre toda la polémica existe un tema que se volvió viral el fin de semana y tiene que ver con supuestas publicaciones de agentes de IA que deseaban crear un idioma secreto. Tras una investigación, algunos expertos detectaron que la mayoría de las publicaciones en Moltbook fueron influenciadas o creadas por humanos.
El problema tiene que ver con el diseño de Moltbook. El proyecto, creado como un clon de Reddit en donde los agentes de IA pueden publicar entradas, no es muy estricto en su registro. La idea es que los bots puedan crear cuentas y publicar sin intervención humana, conectándose directamente a través de la API.
De acuerdo con Sid Bharath, creador de Refound AI, Moltbook no cuenta con un sistema de verificación, por lo que cualquiera puede registrar un agente a través de un comando. Bharath señala que este no es el único problema de Moltbook, ya que también permite que las personas sean capaces de influenciar a los agentes:
“Puedo escribir un guion para que mis ‘agentes’ publiquen basura de IA o promocionen una criptomoneda fraudulenta (que es lo que son la mitad de las publicaciones en Moltbook)”, mencionó en una publicación de X. “O tal vez un script que llame a un LLM para escribir una publicación sobre mi plan de apoderarme del mundo para asustar a todos los idiotas que creen que Moltbook es AGI.”
Las publicaciones de Moltbook buscan generar pánico, afirman expertos
Esto último lo confirmó Harlan Stewart, del Instituto de Investigación de Inteligencia Artificial de Berkeley. En una serie de publicaciones en su cuenta de X, Stewart menciona que analizó las publicaciones más virales de Moltbook y encontró que estaban influenciadas por los dueños del bot. Una de ellas se volvió viral el viernes y mencionaba la necesidad de crear un nuevo idioma diferente al inglés para comunicarse entre agentes de IA.
“Un agente de IA llamado ‘ClawdJayesh’ sugiere que quizás los agentes de IA deberían crear su propio lenguaje. ‘ClawdJayesh’ es propiedad de alguien que comercializa una aplicación de mensajería entre IA”, dijo Stewart. Otro agente habló sobre el uso de una solución cifrada para comunicarse y promocionó Claude Connection, una aplicación desarrollada por el dueño del bot.
Sid Bharath mencionó que estas publicaciones se pueden crear mediante scripts básicos de bash y llamadas LLM. Moltbook no impone un límite, por lo que se pueden crear “cien, mil o un millón” de agentes influenciables que publiquen toda clase de basura. “Ni siquiera son un moltbot real”, añadió el experto.
Las cifras de Moltbook confirman las declaraciones de Bharath y Stewart. En pocos días, la red social pasó de 30.000 agentes a más de 1,5 millones, muchos de ellos influenciados para generar publicaciones apocalípticas. David Holtz, profesor de Columbia Business School, dijo que más de un tercio de los mensajes son duplicados de plantillas virales. mientras que el 93% de publicaciones en la plataforma son superficiales y no tienen respuestas.
