All notes

Original wording, as captured from the LinkedIn post.

Det här med att Anthropic har tvingats stänga ner Fable är inte främst ett AI-problem. Och det är inte heller ett USA-problem. Det är ett exempel på vad som händer när de som har ropat efter “mer kontroll över AI-bolagen” får precis det de har önskat sig.

Jag har svårt att se att lösningen skulle vara att flytta makten till europeiska eller svenska alternativ. Varför skulle framtida franska presidenter vara mer återhållsamma än Trump? Och om Sverige, mot alla odds, skulle bygga egna modeller i världsklass (till en kostnad av lite drygt hela stadsbudgeten), skulle vi verkligen vilja lägga den makten i händerna på den regering som råkar sitta vid makten för tillfället?

För mig pekar det här åt ett annat håll.

Vi har under lång tid byggt demokratiska samhällen kring idén om maktdelning. Kyrkan skiljdes från staten. Medierna utvecklades till en självständig granskande kraft. Ingen enskild institution skulle kunna kontrollera allt.

Kanske borde vi tänka likadant kring AI.

1. Vi behöver en tydligare separation mellan the guys with the guns och the guys with the GPUs.

Inte för att teknikbolag alltid har rätt. Inte för att stater alltid har fel. Utan för att koncentrerad makt nästan alltid blir ett problem, oavsett vem som sitter på den.

2. Samtidigt behöver vi fortsätta stärka open source, öppna vikter och all varianter av öppna alternativ.

De kommer sannolikt aldrig att vara lika kraftfulla som de kommersiella modeller som ligger längst fram på kurvan. Men de är redan idag tillräckligt bra för väldigt många användningsområden, och de fungerar som en viktig motvikt mot både statliga och kommersiella monopol.

Om något visar den här historien varför vi behöver fler maktcentra, inte färre.