Artificiell intelligens anses utgöra ett hot mot mänskligheten. Det finns goda skäl att vara skeptisk mot dessa påståenden. Alarmisterna underskattar människans förmåga att förbättra sig själv med ny teknologi.
Författare: Karim Jebari
En uppfattning som fått alltmer uppmärksamhet är att artificiell intelligens (AI) skulle utgöra en av de största riskerna mot mänsklighetens fortsatta existens. Nick Bostrom, en av de främsta levande filosoferna inom tillämpad etik, diskuterar dessa idéer ingående i boken Superintelligence. Men är AI verkligen en av de stora riskerna? Det finns skäl att vara skeptisk.
Det är inte intelligens i absoluta termer som är farlig hos en AI, utan intelligens i förhållande till de människor som en fientlig AI kan vilja skada. Bostrom tycks förutsätta att intelligensen hos de människor som försöker kontrollera en AI inte kommer att förändras över tid. Detta antagande tar inte hänsyn till att en förbättring av AI troligen påverkar intelligensen i det omgivande samhället, alltså hos människorna. Om “intelligens” ses som en generell förmåga att lösa problem, så kan en människa eller grupp människors intelligens höjas väldigt mycket av modern teknologi. En person kan till exempel lösa matematiska problem snabbare med en miniräknare, eller “minnas” stora mängder information med en digitalkamera eller dator. Sofistikerade statistik- och sökprogram tillåter problemlösning som skulle vara omöjlig för personer utan tillgång till dessa verktyg. Vår effektiva intelligens både som individer och som samhälle överstiger vida det som en mänsklig hjärna i sig är kapabel till på egen hand.
De som befarar en snabb utveckling av en AI (en så kallad “intelligensexplosion”) tycks tro att ett fåtal teoretiska genombrott i AI-teori på kort tid skulle kunna resultera i stora framsteg. Men en sådan utveckling är sällsynt, inte bara i AI-utvecklingens historia, utan även i teknikutvecklingens historia. Till skillnad från populära narrativ om “stora språng”, präglas teknikens och vetenskapens historia av misslyckanden, irrvägar och dyrköpta framsteg.
Bostrom och andra forskare som oroar sig för en intelligensexplosion brukar också lyfta fram det faktum att processorer blivit allt kraftfullare och billigare. En AI skulle kunna dra nytta av denna trend för att med ren beräkningskapacitet bli mer intelligent. Men inte ens med en dator lika stor som en planet skulle en AI kunna lösa vissa typer av problem. Dessutom är det tveksamt om den intelligens som ren beräkningskapacitet ger är ett särskilt stort hot. Att kunna tänka snabbt är förstås en tillgång, men bara för en viss typ av problem. Oavsett hur snabbt jag skulle kunna tänka, skulle jag inte kunna på egen hand uppfinna den allmänna relativitetsteorin.
Innebär detta att AI inte är ett hot eller något vi bör oroa oss för? Knappast. Istället bör slutsatsen bli att riskerna associerade med AI är mer komplexa och osäkra än att en AI en dag kommer att förinta mänskligheten för att vi står i vägen för den. Om intelligens är makt och den makt som AI-teknologi för med sig bara tillfaller ett fåtal, kan det i sig vara en enorm risk för ett öppet och demokratiskt samhälle. Att en intelligensexplosion är osannolik innebär alltså inte att forskning om AI och teknikrelaterad risk är irrelevant.
Om Karim Jebari
Karim Jebari är forskare vid Institutet för framtidsstudier. 2014 disputerade han i filosofi vid KTH med en avhandling som handlade om hur vi bör förhålla oss till den teknologiska utvecklingens utmaningar och möjligheter.
