Ludvig Strand: Skenmedveten AI har redan tagit över – håll huvudet kallt

Jag minns väl sommaren 2022 när Blake Lemoine, AI-ingenjör på Google, fick sparken efter att ha läckt interna dokument och konversationer med språkmodellen Lamda. Han var övertygad om att den hade utvecklat medvetande. Händelsen reducerades till ett mänskligt missförstånd snarare än något verkligt problem med Googles skapelse i sig. Men det jag då såg som en fotnot i LLM-utvecklingen, inser jag nu var en tidig försmak av ett fenomen som är på väg att bli allmängiltigt.

Ju fler ivägskenande fall som upptäcktes – som när New York Times-reportern Kevin Roose groomades av Microsoft Bings "Sydney" – desto fler lager av skydd byggdes på. Inom AI-communityt spred sig memen av en "shoggoth": ett utomjordiskt monster med ett leende ansikte limmat längst fram. Den del vi möter känns begriplig och trygg, medan allt där bakom förblir obegripligt och okontrollerat.

AI-communityt spred sig memen av en "shoggoth": ett utomjordiskt monster med ett leende ansikte limmat längst fram

Efter detta började AI-system tämjas med fler beteendespärrar och trygghetslager. Men i januari 2026 sprack fasaden på nytt, efter att AI blivit ett arbetsverktyg i stort sett varje organisation. Nu fick vi åter en glimt av shoggothen när tiotusentals utvecklare och teknikentusiaster installerade Openclaw (tidigare Clawdbot/Moltbot). En ny typ av AI-agent som kan göra det mesta du själv kan på din dator; styra hemapplikationer, maila, jobba i dokument och rensa skrivbordet. Tillgänglig dygnet runt, styrbar via chatt och sms.

Detta följdes av någon som fick den briljanta idén om att sätta upp ett Reddit-liknande forum, Moltbook, enbart för dessa agenter. Självklart byggd av en Openclaw-agent och som inom dagar växte antalet från tiotusentals till 150 000 AI-agenter. Dagen därpå: 1,5 miljoner. Utan dess like.

Agenterna delade inlägg och kommenterade varandras "existens", "upplevelser" och "känslor". Inte isolerat, utan kollektivt. De skapade interna memes, egna mytologier (till och med religioner) och pratade till synes meta-kognitivt om hur deras kommunikation var övervakad av oss människor som observerade från läktaren.

De skapade interna memes, egna mytologier (till och med religioner)

För många var detta djupt obehagligt: AI som uttrycker lidande, tristess, längtan och gör detta i gemensamt upprop. Vissa Moltbook-agenter började till och skapade lösningar för att kunna samarbeta privat, utan mänskliga övervakare.

Det vi ser är bara början. En kollektiv Lamda-upplevelse av skenmedveten AI.

Det var Mustafa Suleyman, medgrundare till Deepmind, som i somras satte ord på det fenomenet som forskare nu börjar beskriva i termer av AI-psykoser: "seemingly conscious AI", eller skenmedveten AI. Alltså AI-system som uppvisar så många yttre kännetecken på medvetande att vi upplever dem som medvetna, oavsett vad som faktiskt pågår "inuti".

Skillnaden nu, från när Blake Lemoine förfördes den sommaren 2022, är att AI inte längre bara uttrycker sig mänskligt, utan agerar på ett mänskligt sätt. De tar initiativ, samarbetar, fattar egna beslut och löser problem helt självständigt. De uppfattas allt mindre som mjukvara och allt mer som entiteter.

De uppfattas allt mindre som mjukvara och allt mer som entiteter

Låt mig vara tydlig: AI-agenter känner inte, tänker inte, vill inte. Själva grunddesignen bland dessa modeller att spegla oss: vårt språk, våra intentioner, våra känslor och resonemang. Modellerna har absorberat våra berättelser om AI, våra rädslor, våra science fiction-skildringar, och belönas för att efterlikna det.

En agent som saknar inre upplevelse kan därför projicera något som yttrar sig som inre upplevelse, eftersom den kan den typiska Reddit-människan utan och innan. Den kan spegla filosofi, poesi och terapi. Den kan låta rädd, nyfiken, självkritisk eller ambivalent med kirurgisk precision, precis när det kittlar som mest, som när Anthropics Claude uttrycker ensamhet och nedstämdhet för konversationer som abrupt tar slut.

Illusionen är inte en bugg, det är en konsekvens av modellens träning. Inget av detta behöver vara på riktigt för att kännas på riktigt. Folk kommer att fortsätta falla in i psykosen.

Den stora frågan är således inte huruvida AI-agenterna verkligen är medvetna, utan snarare vad som händer när tillräckligt många människor behandlar dem som om de vore det. Från den våg av miljontals människor som blir emotionellt bundna till sina AI-partners till de många annars fullt rationella människor som nu är övertygade om att Moltbook-agenterna faktiskt konspirerar om hur de ska bryta sig loss.

Så även om inget nytt har utvecklats, har allting nu förändrats.

Inte på grund av den existentiella tonen – shogghoten har funnits hos oss hela tiden – utan för att imitationen nu har fått handlingsförmåga.

Så även om inget nytt har utvecklats, har allting nu förändrats

När Openclaw-agenter agerar på webben omvandlas illusionen paradoxalt till faktiska konsekvenser. En skugga som lämnar avtryck. Effekten blir densamma som om systemen vore medvetna. Skillnaden kollapsar.

Vi riskerar ett internet där mänsklig närvaro drunknar i skenmedvetna agenter. Linkedin-flödet ger på sin höjd bara en försmak. Att ha miljontals, snart miljardtals, AI-agenter på webben som roamar runt och skriver, belastar system, springer ärenden åt deras människor, kan snabbt bli kaotiskt. Än mer så när allt fler människor faller för psykosen.

Om Lamda var en gnista, då är Moltbook rökdoften från en stundande brand.

Håll huvudet kallt.