A.I. Gudfadern Geoffrey Hinton 'Made Up a Meeting' för att avsluta ett samtal med Elon Musk tidigt

Företag
Man i vit knapp upp talar på scenen

Geoffrey Hinton talar under kollision 2023 på Enercare Center i Toronto, Kanada.Ramsey Cardy/Sportsfile via Getty Images

Elon Musk och Geoffrey Hinton, en banbrytande akademiker inom artificiell intelligens (A.I.) som ofta hänvisas till som Godfather of A.I., är till synes inriktade på de hot som den framväxande teknologin utgör mot mänskligheten. Men när Musk, som förra året lanserade A.I. startup xAI, bad nyligen Hinton att gå med i en rådgivande styrelse, miljardärens ström av medvetande ramble fick Hinton att hitta på en ursäkt för att lämna samtalet 20 minuter in, sa den brittisk-kanadensiske datavetaren till The Globe and Mail i en intervju denna vecka.

Jag hittade på ett möte för att få bort honom från telefonen, sa Hinton. Han kommer inte att gilla det. Eftersom han är i centrum för uppmärksamheten, det är vad han vill. Jag tror inte att han är min vän längre.

Genom en akademisk karriär fokuserad på neurala nätverk – en maskininlärningsprocess som bygger på neuroner i den mänskliga hjärnan som gör det möjligt för datorprogram att lära sig färdigheter genom att analysera data – spelade Hinton en avgörande roll i att forma grunden för A.I. system som driver sådana som OpenAI:s ChatGPT. Men sedan han lämnade sin roll på Google (GOOGL) 2023 efter ett decennium lång tid, har han förvandlats till en av de mest högljudda kritikerna av hur stora tekniska företag utvecklar tekniken.

Även Musk har länge varnat för A.I.s faror och upprepade Hintons varningspåståenden , twittrade förra året att den akademiska vet vad han pratar om. Men Musk själv, tillsammans med mäktiga personer som Peter Thiel (en nyckelinvesterare i många A.I.-labb) och Mark Zuckerberg, är en del av problemet, enligt Hinton.

När vi diskuterade hur A.I. träningsdata måste kureras för att undvika att bots används utan moralisk kompass, pekade Hinton på behovet av att reglera A.I. ledare för att uppnå sådana mål. Det enda som möjligen skulle kunna hålla Elon och Peter Thiel och Zuckerberg under kontroll är statlig reglering, sa han till The Globe and Mail. Det är det enda som är starkt nog att göra jobbet.

30 aug stjärntecknet

Tidigare denna månad godkände Hinton också ett öppet brev undertecknat av mer än ett dussin före detta OpenAI-anställda som hävdade att nuvarande whistleblowerskydd är otillräckligt och hävdade att A.I. företag som OpenAI slår ner på kritik från arbetare som förespråkar säkerhetsproblem. Brevet följde på avgången av flera toppanställda i OpenAI, som Ilya Sutskever, som tidigare ledde en misslyckad avsättning av OpenAI:s vd Sam Altman.

Geoffrey Hinton har handlett många A.I. maktsiffror

Sutskever och datavetaren Alex Krizhevsky var båda tidigare studenter av Hintons vid University of Toronto och arbetade 2012 tillsammans med professorn för att göra genombrott i neurala nätverk. Året därpå betalade Google ut 44 miljoner dollar för att förvärva ett företag som startades av trion och förde alla tre som anställda. Hinton mottog därefter Turing-priset, känt som Nobelpriset i datoranvändning, tillsammans med sina akademiker Yoshua Bengio och Yann LeCun för deras bidrag till neurala nätverk och A.I:s utveckling.

Hinton ångrar inte nödvändigtvis sitt engagemang på fältet. Om jag inte hade gjort det skulle någon annan ha gjort det, sa han och tillade att allt kan ha hänt några veckor senare. Men datavetaren fortsätter att ringa larm om teknikens faror och hans övertygelse att om inte förebyggande åtgärder vidtas, kommer A.I. maskiner kommer så småningom att bli smartare än människor och bli oseriösa. A.I. agenter som bara är utformade för att organisera semester och köpa paket för människor, till exempel, kommer snabbt att inse att ju mer kontroll de kan få, desto effektivare kan de vara på att göra det, sa Hinton. De kontrollerar världen så att de kan uppnå saker. Så i den meningen är dessa maskiner som små barn. Och vi är som föräldrar som inte har någon aning om hur de ska uppfostra dem.

För Hinton, den fruktansvärda verkligheten för A.I. har bara blivit mer pressande. Medan han tidigare trodde att tekniken hade potential att utplåna mänskligheten på 30 till 50 år, har den siffran sedan skiftat till mellan fem och 20 år. Det finns en 50-50 chans A.I. kommer att bli smartare än oss, sa han. När det blir smartare än oss vet jag inte vad sannolikheten är att det tar över, men det verkar ganska troligt.