Notes / Everyday AI
Lokal AI. Äntligen ett verktyg.
Original wording, as captured from the LinkedIn post.
Det blev mer Linkedin än Facebook, så här får ni ;) """ Jag har petat med lokala AI-modeller i tre år nu. Och det har alltid slutat likadant: antingen får man bygga ihop allt själv som ett IKEA-skåp utan instruktioner, eller så får man ett svar som känns som att det kommer från en trött praktikant.
Nu. Bionic från LM Studio + Muse Glimmer från Meta.
Första gången jag faktiskt kan tänka mig att min svärmor skulle klara av att köra detta hemma utan att ringa mig.
Gränssnittet är rent, snabbt och man behöver inte ha en doktorsexamen för att förstå var man ska klicka. Och modellen? Den pratar och tänker på ett sätt som inte gör en yr av besvikelse när man jämför med de stora molngrejerna. Den levererar.
Krävs det en vettig dator och en hel del minne? Ja. Men skillnaden, helheten, jämfört med tidigare är enorm. Det här känns inte längre som ett projekt, det känns som ett verktyg.
Äntligen.
Image description · AI
The original screenshot shows the writing prompt behind this post. JJ describes a usable local-AI interface and model, while acknowledging the hardware and memory requirements.