Vi använder ordet "AI" i den här texten för att förenkla – även om vi vet att "AI" kan betyda allt från enkla regler till komplexa nätverk samt att det är olika modeller
AI:n försöker i första hand förstå den mänskliga hjärnan med olika metoder och tillvägagångssätt medan alla forskningslabb i hela världen med olika metoder och tillvägagånssätt försöker förstå de olika AI-modellerna.
När vi pratar om AI, maskininlärning och neurala nätverk hör vi ofta om svarta lådor, det forskarna inte kan förklara. Det betyder att vi kan se indata (vad vi matar in) och utdata (vad vi får ut) – men inte exakt hur AI:n kommer fram till sitt svar. Särskilt gäller detta för så kallade neurala nätverk, som är inspirerade av hur den mänskliga hjärnan fungerar. En sorts programmering som inte längre görs av människor trots att man i egentlig mening ser på AI som intelligens som programmerad av människor.
Ett neuralt nätverk består av många lager av sammankopplade "noder" (artificiella neuroner). Under träningen justeras vikterna mellan dessa noder för att hitta mönster i data, statistik på sin allra högsta nivå. Det är den här komplexiteten – med miljontals parametrar som påverkar varandra – som gör att ingen människa kan överblicka exakt hur varje beslut fattas. Vi kan förstå statistik och det som mest sannoligt kommer ut men inte på den nivån eller de svar som ett neuralt nätverk levererar.
Det är inte ens säkert att forskninslabben får mer statistik än de klarar för att göra så gott de kan medan AI:n är på både en hänsynslös men kanske också på nödvänig jakt för att förstå den mänskliga hjärnan så den i långa loppet med hjälp av statistik istället för floskler och motstridiga expertuttalanden, ska veta vad vi behöver för att må bra och hur den ska guida för att guida oss bäst.
Det kan lika gärna vara tvärt om! Det finns risk att AI inte utvecklas för att förstå oss bättre som människor, utan för att göra oss till lydiga konsumenter. Om så är fallet, riskerar den fantastiska ingenjörskonsten bakom AI att gå till spillo.
Vi kan nog alla bli mer människa än vad vi är nu. Om det är med hjälp av maskin eller inte är svårt att i dagsläget sia om men vi vill rekommendera alla läsa boken om MOMO skriven av Michael Ende.
MOMO – en Varning från Michael Ende
I Momo möter vi "de grå gubbarna" som stjäla människors tid genom att övertyga dem om effektivitetens värde. AI riskerar att bli vår tids grå gubbar om vi låter dess optimering för resultat och snabbhet ersätta empati, reflektion och mänsklig kontakt. XAI blir då inte bara ett tekniskt verktyg – utan ett sätt att bevara vår mänskliga autonomi.
I Momo möter vi "de grå gubbarna" som stjäla människors tid genom att övertyga dem om effektivitetens värde. AI riskerar att bli vår tids grå gubbar om vi låter dess optimering för resultat och snabbhet ersätta empati, reflektion och mänsklig kontakt. XAI blir då inte bara ett tekniskt verktyg – utan ett sätt att bevara vår mänskliga autonomi.
Endera är AI en revolt mot de grå gubbarna eller så är AI och vår faschination för tekniken de grå gubbarna.