Elon Musk uppmanar A.I. ledare att styra i en så positiv riktning som möjligt.STR/NurPhoto via Getty Images
Elon Musk tror att A.I. kommer sannolikt överträffa mänsklig intelligens år 2030 och det finns en verklig chans att tekniken gör ett slut på mänskligheten. Men det betyder inte att framtiden är dyster. Talar vid ett Silicon Valley-evenemang förra veckan(19 mars) varnade Teslas och SpaceX:s vd för att A.I. sker snabbt och att vi vill försöka styra [A.I.] i en så positiv riktning som möjligt för att öka sannolikheten för en stor framtid.
Musk talade under enbrasan chatta med Peter Diamandispåöverflöd 360Summit, värd av Singularity University, en Silicon Valley-institution som ger råd till företagsledare om avancerad teknologi. Diamandis är grundare av både Singularity University och XPRIZE Foundation, en ideell organisation som är värd för vetenskapstävlingar, av vilka några sponsras av Musk.
Det kallas singularitet av en anledning, sa Musk med hänvisning till värd för evenemanget. När du har tillkomsten av superintelligens är det mycket svårt att förutsäga vad som kommer att hända härnäst - det finns en viss chans att det kommer att få ett slut på mänskligheten. Musk tillade att han höll med A.I. gudfadern Geoffrey Hinton i att det finns 10 till 20 procent sannolikheten för att en sådan händelse äger rum.
Samtidigt som man erkänner riskerna med A.I. Musk överträffade mänsklig intelligens och lyfte också fram potentialen för ett positivt resultat som överväger det negativa, och pekade på titeln på Diamandis bok från 2014, Överflöd: Framtiden är bättre än du tror, som ett önskvärt resultat. Boken skildrar en framtid där A.I. och robotteknik kommer att drastiskt sänka kostnaderna för varor och tjänster, vilket gynnar det mänskliga samhället.Musk tog också upp Culture-serien av den skotske sci-fi-författaren Iain M. Banks som det bästa möjliga scenariot för en semi-utopisk A.I. framtida.
Musk använde en analogi av att uppfostra ett barn som ett sätt att utveckla A.I. och artificiell allmän intelligens (A.G.I.) för att skapa en positiv inverkan på mänskligheten framöver. Han betonade vikten av att främja ett sanningsenligt och etiskt förhållningssätt till A.I. utveckling som drar paralleller till Stanley Kubricks film från 1968, 2001: A Space Odyssey.
Jag tror att det är otroligt viktigt för A.I. säkerhet är att ha en maximal sorts sanningssökande och nyfiken A.I., sa Musk och tillade att han trodde att uppnå ultimat A.I. säkerhet hängde på att aldrig tvinga A.I. att ljuga även när de konfronteras med en obehaglig sanning.
En huvudsaklig handlingspunkt i 2001: A Space Odyssey var A.I. tvingas ljuga, vilket får den att döda rymdskeppets besättning. Så lärdomen är tvinga inte en A.I. att ljuga eller göra saker som är axiomatiskt oförenliga, men att göra två saker som faktiskt är ömsesidigt möjliga, förklarade SpaceX VD.
Musk pekade dock på olika begränsningar som kunde bromsa expansionen av A.I., inklusive den snäva tillgången på A.I. chips som sågs förra året och den växande efterfrågan på transformatorer för spänningsnedtrappning, som behövs för att konvertera högspänningskraft till en lägre spänning som krävs för enheter i hem och företag. Det är bokstavligen frågan i år, sa han.
Diskussionen vid ett tillfälle berörde begreppetsammansmältning av det mänskliga sinnets neocortex med molnet. Medan Musk beskrev målet att ladda upp en persons medvetande och minnen till molnet som en väg ut, hyllade han sin start av hjärn-datorgränssnittNeuralänkoch dess första mänskliga patient.En livedemo med patienten, som är quadriplegic, genomfördes nyligen i en FDA-godkänd studie. Efter att ha fått ett hjärnimplantat kunde patienten kontrollera skärmen, spela tv-spel, ladda ner mjukvara eller göra något annat som är möjligt när man använder en mus bara genom att tänka på det. Det går ganska bra. Den första patienten kan faktiskt kontrollera sin dator bara genom att tänka, sa Musk.
Musk sa att expansionen av A.I. kan ta bort begränsningarna för att skapa ett gränssnitt för hela hjärnan, men Neuralink arbetar mot det målet under tiden.