OpenAI VD Sam Altman har tidigare diskuterat sin önskan att uppnå resonemang på mänsklig nivå i A.I.Justin Sullivan/Getty Images
Som en del av OpenAI:s väg mot artificiell allmän intelligens (A.G.I), en term för teknik som matchar människans intelligens, försöker företaget enligt uppgift möjliggöra A.I. modeller för att utföra avancerade resonemang. Sådant arbete sker under ett hemlighetsfullt projekt med kodnamnet ' Jordgubbe ,' som rapporterats av Reuters, som noterade att projektet tidigare var känt som Q* eller Q Star. Även om dess namn kan ha ändrats, är projektet inte precis nytt. Forskare och medgrundare av OpenAI har tidigare varnat för initiativet, med oro över det som enligt uppgift spelade en roll i den korta avsättningen av Sam Altman som OpenAI:s vd i november.
Strawberry använder en unik metod för efterträning av A.I. modeller, en process som förbättrar deras prestanda efter att ha tränats på datamängder, enligt Reuters, som citerade interna OpenAI-dokument och en person som är bekant med projektet. Med hjälp av djupgående forskningsdatauppsättningar siktar företaget på att skapa modeller som visar resonemang på mänsklig nivå. OpenAI undersöker enligt uppgift hur Strawberry kan tillåta modeller att kunna slutföra uppgifter under en längre tidsperiod, söka på webben själva och vidta åtgärder på dess resultat och utföra ingenjörernas arbete. OpenAI svarade inte på förfrågningar om kommentarer från Startracker.
Elon Musk och Ilya Sutskever uttryckte oro över Q*
Altman, som tidigare har upprepade OpenAI:s önskan att skapa modeller som kan resonera , förlorade kort kontrollen över sitt företag förra året när hans styrelse sparkade honom i fyra dagar. Strax före avsättningen hade flera OpenAI-anställda blivit bekymrad över genombrott presenteras av vad som då var känt som Q*, ett projekt som leddes av Ilya Sutskever, OpenAI:s tidigare chefsforskare. Sutskever själv hade enligt uppgift börjat oroa sig för projektets teknik, liksom OpenAI-anställda som arbetade på A.I. säkerhet vid tillfället. Efter hans återinträde hänvisade Altman till nyhetsrapporter om Q* som en olyckligt läckage i en intervju med Verge.
Elon Musk, en annan OpenAI-medgrundare , har också slagit larm om Q* tidigare. Miljardären, som bröt banden med företaget 2018, hänvisade till projektet i en stämningsansökan mot OpenAI och Altman som sedan har lagts ned. Medan han diskuterade OpenAI:s nära samarbete med Microsoft (MSFT), hävdade Musks stämningsansökan att villkoren i affären dikterar att Microsoft endast har rättigheter till OpenAI:s pre-A.G.I. teknik och att det är upp till OpenAI:s styrelse att avgöra när företaget har uppnått A.G.I.
Musk hävdade att OpenAI:s GPT-4-modell utgör A.G.I, vilket han tror utgör ett allvarligt hot mot mänskligheten, enligt stämningsansökan. Domstolsanmälan uppgav att OpenAI för närvarande utvecklar en modell som kallas Q* som har ett ännu starkare anspråk på A.G.I.
De senaste interna mötena har antytt att OpenAI gör snabba framsteg mot den typ av resonemang på mänsklig nivå som Strawberry arbetar med. I ett OpenAI all-hands möte som hölls tidigare denna månad, företaget presenterade ett system i fem nivåer för att följa dess framsteg mot A.G.I., som rapporterats av Bloomberg. Medan företaget sa att det för närvarande är på den första nivån, känd som chatbots, avslöjade det att det nästan har nått den andra nivån av resonemang, vilket involverar teknik som kan visa problemlösning på mänsklig nivå. De efterföljande stegen består av A.I. system som fungerar som agenter som kan vidta åtgärder, innovatörer som hjälper till med uppfinningar och organisationer som gör arbetet i en organisation.