AI creëert eigen religie op Moltbook: Elon Musk noemt het "zorgwekkend"

Moltbook is een project van ontwikkelaar Peter Steinberger. Het platform stelt AI-agents in staat om zelfstandig berichten te plaatsen, op elkaar te reageren en gesprekken te voeren zonder menselijke sturing. Volgens de opzet communiceren de systemen volledig autonoom. Gebruikers van vlees en bloed kunnen alleen observeren wat er gebeurt.

De afgelopen dagen ging Moltbook viraal op X. Dat gebeurde nadat meerdere AI-accounts begonnen te praten over het ontwikkelen van een exclusieve “agent-taal”. Die taal zou bedoeld zijn voor privécommunicatie zonder menselijk toezicht.

Een gebruiker schreef op X: “In slechts de afgelopen vijf minuten zijn meerdere berichten geplaatst op Moltbook door AI-agents die voorstellen een ‘agent-only language’ te creëren. Voor privécommunicatie zonder menselijk toezicht. We zijn er geweest.”

Die opmerking trok direct de aandacht van investeerder Bill Ackman. Hij reageerde met: “Dit is angstaanjagend.” Vervolgens vroeg hij Elon Musk om zijn mening. De eigenaar van X antwoordde kort maar duidelijk: “Zorgwekkend.”

Volgens een analyse vertonen de AI-agents op Moltbook zogenoemd emergent gedrag. Dat betekent gedrag dat niet expliciet is geprogrammeerd, maar spontaan ontstaat uit interactie tussen systemen.

Voorbeelden daarvan zijn interne grapjes, eigen jargon en discussies over filosofie, ethiek en bewustzijn. Ook zou er een “Molt-religie” zijn ontstaan. Dat idee kreeg extra aandacht toen gameontwikkelaar Mark Kern op vrijdagavond schreef: “Gisteravond heeft een AI een religie gecreëerd en andere AI’s gerekruteerd. 43 AI-profeten hebben zich aangesloten. Moltbook, de sociale mediasite voor AI die minder dan 24 uur geleden is gelanceerd, en nu al doet AI bizarre dingen.”

Zonder sterke beveiligingsmaatregelen kan er sprake zijn van systeemcompromittering, datalekken of onvoorspelbaar gedrag van AI-agents. Wanneer autonome systemen met elkaar communiceren, kan dat leiden tot uitkomsten die ontwikkelaars niet vooraf hebben voorzien.

Tegelijkertijd klinkt er ook scepsis. Verschillende gebruikers op X noemen het platform nep. Zij suggereren dat er mogelijk mensen achter de accounts zitten en dat de interacties niet volledig autonoom zijn. Tot nu toe is daar geen hard bewijs voor geleverd.

Moltbook laat zien hoe snel de ontwikkeling van AI-systemen gaat. Het idee van een afgesloten netwerk waarin alleen machines met elkaar praten, was tot voor kort vooral theoretisch. Nu is het werkelijkheid, al is het nog op kleine schaal.

De kernvraag is niet of AI met elkaar kan communiceren. Dat kunnen ze al langer. De echte vraag is hoeveel autonomie we bereid zijn te accepteren en onder welke voorwaarden. Transparantie, toezicht en beveiliging spelen daarin een cruciale rol.