När ett AI-verktyg pekade ut fel företag som kinesiska spioner

Ett amerikanskt mjukvarubolag, MeetingTV, har stämt säkerhetsföretaget Koi Security för att ett AI-verktyg felaktigt ska ha kopplat bolaget till kinesisk cyberbrottslighet. Stämningsansökan lämnades in 18 mars 2026 till en federal domstol i södra Kalifornien och omfattar 137 sidor. Kärnfrågan är enkel att förstå men svår att avgöra juridiskt: vem bär ansvaret när ett AI-system hallucinerar och en oskyldig verksamhet får sitt rykte förstört?

För dig som driver ett litet företag i Sverige låter det här kanske avlägset. Det är det inte. Samma teknik som pekade ut MeetingTV skannar just nu domäner, e-postavsändare och webbadresser över hela världen och den gör misstag.

Vad tvisten handlar om

Koi Security publicerade 30 december 2025 en hotrapport kallad ”DarkSpectre”. Rapporten hävdade att MeetingTV ”drev kärninfrastruktur för en välfinansierad kinesisk kriminell organisation”. Bolagets domän listades bredvid infrastruktur kopplad till skadlig aktivitet.

Problemet: enligt stämningen fanns det ingen grund för påståendet. Koi hade använt sitt eget analysverktyg ”Wings”, som bygger på en språkmodell och verktyget ska ha hittat på en mjukvara som inte existerar, ett påhittat ”Twitter X Video Downloader”, som en av grundstenarna i anklagelsen. MeetingTV menar att Koi förlitade sig på AI utan tillräcklig mänsklig granskning innan rapporten gick ut, ett resonemang som beskrivs närmare i The Registers genomgång av stämningen.

Koi rättade rapporten 12 februari 2026 och tog bort MeetingTV:s domän. Då hade sex veckor passerat och det var för sent.

Skadan hann sprida sig först

En felaktig hotindikator sprids snabbare än en rättelse. Innan Koi korrigerade sin rapport hade MeetingTV:s domän hunnit flaggas eller blockeras av flera stora säkerhetsleverantörer, bland dem Verizon, Avast och Cloudflare, enligt Bank Info Securitys rapportering.

Så fungerar hotinformation i cybersäkerhetsbranschen. En aktör pekar ut en domän som farlig, andra system plockar automatiskt upp signalen och plötsligt är webbadressen svartlistad hos leverantörer som inte har någon egen relation till det utpekade bolaget. MeetingTV hävdar att detta ledde till tekniska blockeringar, förlorade affärer och långsiktig ryktesskada.

Det här var inte första gången bolaget hamnade i knipa. MeetingTV stämde även säkerhetsföretaget Proofpoint i december 2025 för att ha märkt en annan av bolagets domäner som skadlig. Den tvisten flyttades från domstol till alternativ tvistlösning.

Palo Altos försvar bygger på yttrandefrihet

Palo Alto Networks, som förvärvade Koi Security för 231 miljoner dollar, står nu som medsvarande. Bolagets försvar är intressant och principiellt viktigt.

Palo Alto hävdar att Koi:s rapport återspeglade ”skyddade analytiska bedömningar” och inte falska faktapåståenden. Med andra ord: en säkerhetsanalys är en åsikt, en professionell tolkning, inte en påstådd sanning som kan vara juridiskt felaktig. Bolaget kallar stämningen ett försök att tysta skyddat tal och pekar samtidigt på att MeetingTV inte lagt fram direkt bevis för att ett AI-system faktiskt producerade de omtvistade resultaten.

Här ligger själva stridsfrågan. Är en hotrapport en bedömning man får ha fel om eller ett påstående om fakta som får konsekvenser om det är osant? Domstolen har ingen tydlig praxis att luta sig mot. Ansvar för AI-genererat innehåll i säkerhetsbranschen är ett i princip oreglerat område.

Vad svenska småföretagare kan lära av det

Din verksamhet kan hamna på en svartlista utan att du gjort något fel och du kanske inte ens märker det förrän kunder klagar. Det är den obekväma slutsatsen. Automatiserade system bedömer domäner, e-postavsändare och webbplatser hela tiden och de felar ibland.

Det praktiska problemet är att en felflaggning slår hårdast mot små företag. Ett storbolag har en säkerhetsavdelning som ringer rätt kontakt och får saken rättad. Konsulten, webbyrån eller e-handlaren med tre anställda upptäcker problemet när e-posten börjar studsa eller när betalningarna slutar komma in.

Några konkreta saker att hålla koll på:

• Övervaka din egen domän. Testa regelbundet om din webbadress eller e-postdomän flaggas. Verktyg som kontrollerar svartlistningsstatus finns gratis och tio minuter i månaden räcker.
• Ha SPF, DKIM och DMARC på plats. Korrekt uppsatt e-postautentisering minskar risken att din utgående post klassas som skräp eller skadlig. Prata med den som sköter din mejl om det inte redan är gjort.
• Dokumentera din affär. Om du någonsin behöver bevisa att din verksamhet är legitim, hjälper det att ha ordning på företagsregistrering, avtal och kundrelationer. En [ordnad grund från start](https://battreaffarer.nu/starta-eget-checklista/) gör dig mindre sårbar när något går fel.
• Agera snabbt vid felflaggning. Kontakta leverantören direkt med bevis. Vänta inte, för varje dag på en svartlista kostar affärer.

Har du drabbats av ett IT-säkerhetsproblem kan du rapportera till CERT-SE, Sveriges nationella funktion för hantering av IT-incidenter. De hanterar inte enskilda felflaggningar men om du misstänker att du utsatts för ett verkligt angrepp är det rätt väg.

AI-verktyg tar genvägar och genvägar kostar

Ett återkommande mönster i den här typen av tvister är att AI-systemet fyller i luckor med rimliga gissningar i stället för verifierade fakta. Det påhittade ”Twitter X Video Downloader” i Koi-fallet är ett skolexempel: modellen behövde en förklaring, hade ingen och skapade en, ett fenomen som beskrivs i detalj hos Expert Insights.

Samma sak händer i mindre skala varje gång ett företag lutar sig för hårt mot AI utan mänsklig kontroll. Många som börjar använda AI-verktyg i verksamheten glömmer att modellen inte vet skillnaden mellan att veta och att gissa. Den låter lika säker i båda fallen.

Lärdomen för dig som driver eget är inte att undvika AI. Det är att aldrig publicera, skicka eller agera på AI-genererat innehåll utan att en människa kontrollerat påståendena. Ett felaktigt kundnamn i ett mejl är pinsamt. Ett felaktigt faktapåstående om en annan part kan bli en juridisk fråga.

Mediemyndigheten har i sina analyser av AI och desinformation pekat på hur snabbt felaktigt maskingenererat innehåll sprids och hur svårt det är att stoppa när det väl är ute. MeetingTV-fallet visar samma dynamik, fast med ett företags rykte som insats i stället för en samhällsdebatt.

FAQ

Vad är en hotrapport i cybersäkerhet?

En hotrapport är en analys där ett säkerhetsföretag pekar ut domäner, IP-adresser eller mjukvara som kopplade till skadlig aktivitet. Andra leverantörer plockar ofta automatiskt upp indikatorerna, vilket gör att ett utpekande sprids snabbt genom branschen.

Kan mitt företags domän svartlistas utan att jag gjort något fel?

Ja. Automatiska system och felaktiga hotrapporter kan flagga en helt legitim domän. Det räcker att din adress liknar en misstänkt indikator eller att ett verktyg drar fel slutsats.

Vem ansvarar juridiskt när ett AI-verktyg hittar på fakta?

Det är oklart och prövas nu i domstol. MeetingTV hävdar att företaget bakom verktyget är ansvarigt, medan motparten menar att en säkerhetsanalys är en skyddad bedömning snarare än ett faktapåstående. Det finns ännu ingen etablerad praxis på området.

Bör jag sluta använda AI i mitt företag på grund av det här?

Nej. Poängen är inte att undvika AI, utan att alltid låta en människa granska fakta innan du agerar på det verktyget producerar. Risken uppstår när AI-innehåll publiceras eller används helt utan kontroll.