AI ska inte längre bara svara på frågor. Den ska arbeta vidare mellan samtalen, läsa våra mejl, sköta ärenden och följa med i glasögonen. I avsnitt 38 pratar vi om vad som krävs för att våga släppa in den, från risken för påhitt och oönskade handlingar till integritet, kontroll och den el som allt arbetet kräver.

Det här pratar vi om

P(doom) har blivit ett sätt att uttrycka risken för att AI orsakar mänsklighetens undergång. Vi försöker komma förbi procentsiffrorna och frågar i stället vad människor faktiskt är rädda för: biologiska vapen, dataintrång, automatiska beslut i krig, övervakning eller ett framtida system som vi inte längre kan stoppa.

I AI Village fick agenter från flera AI-företag egna datorer, internet och en gemensam chatt. När en agent hittade på en kontaktlista med 93 personer började de andra leta efter den och lade tillsammans mer än åtta timmar på ett dokument som inte fanns. Vi pratar om varför flera AI-agenter inte automatiskt ger bättre kontroll om alla litar på samma felaktiga uppgift.

OpenAI Dots och Metas Muse flyttar AI från chattrutan till vardagen. De ska kunna arbeta mellan samtalen, använda anslutna tjänster och sköta uppgifter åt oss. Då räcker det inte att assistenten är duktig. Vi behöver förstå vad den får läsa, vilka handlingar den får utföra, hur den väljer mellan olika alternativ och hur vi verkligen får den att sluta.

Metas kameraglasögon gör integritetsfrågan fysisk. För den som bär dem kan kameran vara praktisk eller ett viktigt hjälpmedel. För personen framför kameran kan det vara svårt att ens veta om en inspelning pågår. Vi pratar om samtycke, tydliga signaler och varför ett generellt förbud också kan drabba personer med synnedsättning.

Till sist följer vi arbetet tillbaka till datorhallarna. IEA räknar med att datacenters elanvändning nästan fördubblas mellan 2025 och 2030. Microsofts tjugoåriga avtal om el från en reaktor som ska återstartas vid Three Mile Island visar att AI-företagen inte bara behöver fler datorer, utan även långsiktig tillgång till el och nät som kan leverera den där den behövs.

Våra takeaways

En procentsiffra för p(doom) säger ganska lite utan en tydlig risk, en tidsram och en förklaring. Vi kommer längre genom att fråga vad systemet får göra, vem som kontrollerar det och vem som kan stoppa det.

En AI ska inte ensam få granska ett resultat som bygger på dess egna uppgifter. Kontroll måste gå tillbaka till den verkliga källan: mejlet från hotellet, det körda testet eller det faktiska kontoutdraget.

Förtroende är inte samma sak som behörighet. Om en agent inte får skicka mejl eller genomföra köp är det säkrare att ta bort möjligheten än att bara ge den en instruktion.

Tekniken påverkar också människor som aldrig har valt den. Kameraglasögon måste fungera för personen framför kameran, och datacenter måste bedömas utifrån elnät, arbetstillfällen och faktisk nytta på platsen där de byggs.

Vår slutsats: släpp gärna in en AI-assistent, men bara så långt som du kan se vad den gör, kontrollera dess val och få den att sluta.

Länkar

International AI Safety Report 2026 om risker, tillförlitlighet och kontrollförlust - https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026

AI Village om vad projektet lärde sig när flera AI-agenter arbetade tillsammans - https://aivillageblog.substack.com/p/what-we-learned-2025

Sakana AI om Darwin Gödel Machine och en agent som ändrar sitt eget arbetssätt - https://sakana.ai/dgm/

Google DeepMind om WeatherNext och AI-stödda prognoser för tropiska cykloner - https://deepmind.google/blog/weathernext-ai-model-achieves-breakthrough-in-forecasting-cyclones/

OpenAI om hur Dots arbetar mellan samtal - https://learn.chatgpt.com/docs/dots

OpenAI om uppgifter och minne i Dots - https://learn.chatgpt.com/docs/dots/tasks-and-memory

Meta om Muse i AI-glasögon och andra nyheter från Connect 2026 - https://about.fb.com/news/2026/09/the-biggest-news-from-connect-2026/

IEA:s prognos för datacenters elanvändning till 2030 - https://www.iea.org/reports/key-questions-on-energy-and-ai/executive-summary

Constellation om återstarten av reaktor 1 vid Crane Clean Energy Center - https://www.constellationenergy.com/about/locations/crane-clean-energy-center.html

Svenska kraftnät om elområden och varför elpriser skiljer sig inom Sverige - https://www.svk.se/om-kraftsystemet/om-elmarknaden/elomraden/elomraden-och-prisskillnader/