Vi skapar AI monster

AI:s ”gudfader” Yoshua Bengio: Vi ”skapar monster som är mäktigare än vi själva.

Oavsett om du tror att artificiell intelligens kommer att rädda världen eller göra slut på den – det råder ingen tvekan om att vi befinner oss i ett ögonblick av stor entusiasm. AI, som vi känner till, hade kanske inte existerat utan Yoshua Bengio. Bengio, 60, kallas ”den artificiella intelligensens gudfader” och är en kanadensisk datavetare som har ägnat sin forskning åt neurala nätverk och algoritmer för djupinlärning. Hans banbrytande arbete har banat väg för de AI-modeller som vi använder idag.

”Intelligens ger makt, och den som kontrollerar den makten – om den är på mänsklig nivå eller högre – kommer att bli mycket, mycket mäktig”, säger Bengio.

”Teknik i allmänhet används av människor som vill ha mer makt: ekonomisk dominans, militär dominans, politisk dominans. Så innan vi skapar teknik som kan koncentrera makten på farliga sätt. Vi måste vara mycket försiktiga.”  År 2018 vann Bengio och två kollegor – Googles tidigare vice VD Geoffrey Hinton (vinnare av Nobelpriset i fysik 2024) och Metas (META) chefsforskare inom AI Yann LeCun – Turingpriset, även känt som Nobelpriset i databehandling. År 2022 var Bengio den mest citerade datavetaren i världen. Och Time Magazine har utsett honom till en av de 100 mest inflytelserika personerna i världen.

Trots att Bengio hjälpte till att uppfinna tekniken har han nu blivit en varnande röst i AI-världen. Denna försiktighet kommer när investerare fortsätter att visa en stor entusiasm för utrymmet och bjuder upp aktier i AI-spel till nya rekord i år.

Nvidia företaget värderas nu till häpnadsväckande 3,25 biljoner dollar, något efter Apple (AAPL) för titeln som det mest värdefulla företaget i världen.

Faran med AI

Yoshua Bengio: Om detta hamnar i fel händer, vad det nu innebär, kan det vara mycket farligt. De här verktygen skulle kunna hjälpa terrorister ganska snart, och de skulle kunna hjälpa statliga aktörer som vill förstöra våra demokratier. Och så har vi den fråga som många forskare har påpekat, nämligen hur vi utbildar dem nu – vi ser inte tydligt hur vi ska kunna undvika att dessa system blir autonoma och får sina egna bevarandemål, och vi skulle kunna förlora kontrollen över dessa system. Så vi är på väg att kanske skapa monster som kan vara mäktigare än oss.

OpenAI, Meta, Google, Amazon – vilken stor AI-spelare gör rätt?

Bengio svarar: Moraliskt sett skulle jag säga att det företag som beter sig bäst är Anthropic [vars stora investerare inkluderar Amazon (AMZN) och Google (GOOG)]. Men jag tror att de alla har fördomar på grund av den ekonomiska strukturen där deras överlevnad beror på att de är bland de ledande företagen och helst är de första som når AGI [artificiell allmän intelligens]. Och det innebär en kapplöpning – en kapprustning mellan företag, där allmänhetens säkerhet sannolikt kommer att vara det förlorande målet.

Anthropic ger många tecken på att de bryr sig mycket om att undvika katastrofala resultat. De var först med att föreslå en säkerhetspolicy där man förbinder sig att stoppa AI:n om den visar sig ha förmågor som kan vara farliga. De är också de enda, tillsammans med Elon Musk, som har stött [Kaliforniens lagförslag om AI-reglering] SB 1047. Med andra ord säger de: ”Ja, med vissa förbättringar går vi med på att ha mer insyn i säkerhetsprocedurerna och resultaten samt ansvar om vi orsakar stor skada.”

Tankar om den enorma uppgången för AI-aktier, som Nvidia?

Bengio svarar: Vad jag tror är mycket säkert är den långsiktiga banan. Så om du är med på lång sikt är det en ganska säker satsning. Förutom om vi inte lyckas skydda allmänheten, … [då] kan reaktionen bli sådan att allt kraschar, eller hur? Antingen för att det finns en motreaktion från samhällen mot AI i allmänhet eller för att riktigt katastrofala saker händer och vår ekonomiska struktur smulas sönder.

Hur som helst skulle det vara dåligt för investerare. Så jag tror att investerare, om de vore smarta, skulle förstå att vi måste gå försiktigt fram och undvika den typ av misstag och katastrofer som skulle kunna skada vår framtid kollektivt.

Tankar om AI-chips-racet?

Bengio svarar: Jag tror att chipen helt klart håller på att bli en viktig pusselbit, och det är naturligtvis en flaskhals. Det är mycket troligt att behovet av enorma mängder beräkningar inte kommer att försvinna med de typer av händelser, de vetenskapliga framsteg som jag kan föreställa mig under de kommande åren, och därför kommer det att vara ett strategiskt värde att ha avancerade AI-chip – och alla steg i leveranskedjan kommer att spela roll. Det finns väldigt få företag som kan göra det just nu, så jag förväntar mig att se många fler investeringar och förhoppningsvis lite av en diversifiering.

Vad tror du om att Salesforce introducerar 1 miljard autonoma agenter 2026?

Bengio svarar:  Autonomi är ett av målen för dessa företag, och det är en bra anledning till det ekonomiskt. Kommersiellt kommer detta att bli ett enormt genombrott när det gäller antalet applikationer som detta öppnar upp. Tänk på alla applikationer för personliga assistenter. Det kräver mycket mer autonomi än vad nuvarande toppmoderna system kan ge. Så det är förståeligt att de skulle sikta på något liknande. Det faktum att Salesforce (CRM) tror att de kan nå det på två år, för mig, är oroande. Vi måste ha skyddsräcken, både när det gäller regeringar och tekniskt, innan det händer.