Ilya Sutskever talar vid Tel Avivs universitet den 5 juni 2023.Jack Guez/AFP via Getty Images
Ilya Sutskever, en banbrytande A.I. forskare och OpenAI-grundare som nyligen lämnade det högtflygande A.I. företaget efter ett misslyckat försök att avsätta vd:n Sam Altman , lanserar en ny A.I. företag som har som mål att sätta säkerheten främst. Känd som Safe Superintelligence, Inc. (SSI), kommer startupen att fokusera enskilt på att säkert skapa en A.I. system som kan överträffa människor i intellekt. Vi kommer att fortsätta säker superintelligens i ett rakt skott, med ett fokus, ett mål och en produkt, sa Sutskever från det nya företaget i ett inlägg på X.
Oron för det existentiella hot som A.I. har varit utbredd bland dem som arbetar med tekniken och har lett till klyftor i säkerhetsstrategier mellan ledande företag som OpenAI. Kort efter att Sutskever hoppade av OpenAI i maj efter en nästan tio år lång tjänstgöring, avgick även Jan Leike – som han tillsammans med drev ett sedan upplöst säkerhetsteam som övervakar A.I:s långsiktiga risker – och sa att företagets kultur och processer har tagit en baksätet till glänsande produkter.
https://x.com/ilyasut/status/1803472979873128498
SSI:s andra medgrundare inkluderar Daniel Gross, som tidigare ledde A.I. ansträngningar hos Apple (AAPL) och fungerade som Y Combinator-partner; och Daniel Levy , som tidigare arbetat tillsammans med Sutskever på OpenAI som medlem av dess tekniska personal. Även om trion inte har avslöjat detaljerna om exakt hur de kommer att bedriva säker A.I., beskrev de SSI:s uppdrag som ett uppdrag som kommer att saknas distraktion av ledningskostnader eller produktcykler och förbli isolerade från kortsiktiga kommersiella tryck. Startupen, som kommer att ha kontor i Palo Alto, Kalifornien och Tel Aviv i Israel, har ännu inte avslöjat sin affärsmodell eller sina investerare.
En mest eftertraktad A.I. expert
Sutskevers första stora genombrott i A.I. ägde rum 2012 när han studerade vid University of Toronto under Geoffrey Hinton, en A.I. akademiker ofta kallad gudfadern till A.I. En A.I. labbet skapat av Sutskever, Hinton och en annan student förvärvades av Google, som anställde Sutskever som forskare 2013.
Datavetaren gick så småningom med i OpenAI som medgrundare och chefsforskare 2015. Både OpenAI och Demis Hassabis Google DeepMind var intresserade av att anställa Sutskever vid den tiden, sa OpenAI medgrundare Elon Musk under en podcast nyligen. Det var en av de tuffaste rekryteringsstriderna jag någonsin haft, sa han.
Musk, som har varit högljudd om farorna med A.I., verkar inte övertygas av Sutskevers senaste satsning. Någon given A.I. Startup är dömd att bli motsatsen till sitt namn, skrev Teslas och SpaceX:s vd på X.
https://x.com/elonmusk/status/1803783427616821401
Sutskever skapade rubriker förra året som ledamot i OpenAI-styrelsen med fyra personer som påstod sig ha tappat förtroendet för Altman och tog bort honom från företaget i november innan han snabbt återinstallerade VD:n mitt i motgångar från anställda och investerare. Strax efter den misslyckade avsättningen verkade Sutskever ha en förändring i hjärtat och sa att han ångrade djupt sin roll i eldgivningen. Sutskever själv trappade ner som chefsforskare för A.I. företaget sex månader senare. Då antydde han SSI genom att säga att han gick vidare till ett projekt som är personligt betydelsefullt för honom.