Kineski startup koji je osnovao računalni znanstvenik Kai-Fu Lee postao je jednorog u manje od osam mjeseci zahvaljujući novom modelu umjetne inteligencije (UI) otvorenog koda koji nadmašuje najbolje u Silicijskoj dolini, barem u određenim metrikama.
Tvrtka 01.AI procjenjuje se na više od milijardu dolara nakon kruga financiranja u kojem je sudjelovala tvrtka za poslovanje u oblaku iz grupacije Alibaba Holdinga, rekao je Lee u intervjuu. Izvršni direktor tvrtke rizičnog kapitala Sinovation Ventures ujedno je i izvršni direktor novog startupa. Počeo je okupljati tim za 01.AI u ožujku, a s radom je započeo u lipnju.
Otvoreni, temeljni veliki jezični model pekinškog startupa, Yi-34B, sada je dostupan programerima diljem svijeta na kineskom i engleskom jeziku. Veliki jezični modeli (LLM) su računalni algoritmi obučeni na velikim količinama podataka za čitanje, razumijevanje te proizvodnju teksta, slika i koda nalik onome kako to rade ljudi.
Po ključnim pokazateljima, Yi-34B nadmašuje vodeće modele otvorenog koda koji su već na tržištu, uključujući cijenjenu Llamu 2 tvrtke Meta Platforms. Hugging Face, koja vodi ljestvicu s najboljim rezultatima za LLM-ove u raznim kategorijama, objavila je procjene tijekom vikenda prema kojima se kineski model svrstao na prvo mjesto za ono što je poznato kao prethodno obučeni bazni LLM.
"Llama 2 je zlatni standard i veliki doprinos zajednici otvorenog koda", rekao je Lee (61) u intervjuu za Zoom. "Želimo pružiti vrhunsku alternativu ne samo za Kinu, već i za globalno tržište."
OpenAI sa sjedištem u San Franciscu pokrenuo je pomamu zanimanja za umjetnom inteligencijom nakon što je prošle godine predstavio svoj chatbot ChatGPT. Alphabet, Microsoft i Meta uložili su milijarde u istraživanje i razvoj, pokušavajući zauzeti vodeću poziciju u rastućem području generativne umjetne inteligencije i šire. Elon Musk upravo je predstavio chatbot naziva Grok.
U Kini su tehnološki divovi i poduzetnici također uskočili u to područje, jedna od vodećih tražilica Baidu predstavila je verziju Ernie LLM-a koja je, prema tvrdnjama tvrtke, al pari tehnologiji OpenAI-ja. Alibaba je podržala najmanje tri pothvata u svemiru, uključujući 01.AI. Tvrtke koje razvijaju umjetnu inteligenciju dviju zemalja uglavnom se ne natječu međusobno jer američke tehnologije nisu dostupne u Kini.
Ipak, rastuće političke napetosti između SAD-a i Kine zakomplicirale su razvoj umjetne inteligencije. Vlada američkog predsjednika Joea Bidena zabranila je prodaju Nvidijinih najnaprednijih UI poluvodiča kineskim kupcima prošle godine, zbog zabrinutosti za nacionalnu sigurnost jer bi se tehnologija mogla koristiti za treniranje UI modela za vojne primjene. Prošlog mjeseca, SAD je još više pooštrio ta ograničenja, zabranivši Nvidiji prodaju malo manje naprednih čipova koje je dizajnirala posebno za Kinu.
Lee je nazvao situaciju "žalosnom", ali je kazao kako je 01.AI napravio zalihe čipova koji su mu potrebni za doglednu budućnost. Startup je počeo skupljati poluvodiče ove godine, čak je posudio novac od Sinovation Ventures za kupnju.
"Stavili smo sve na kocku i prekomjerno ispraznili bankovni račun", rekao je. "Osjećali smo kako to moramo učiniti."
Lee, koji je radio za Google, Microsoft i Apple prije nego što se okrenuo svijetu rizičnog kapitala, izgradio je tim od više od sto ljudi u 01.AI, privlačeći bivše kolege iz američkih kompanija i kineske državljane koji su radili u inozemstvu. U timu nisu samo stručnjaci za umjetnu inteligenciju, rekao je, već i iskusni poslovni ljudi koji mogu pomoći u svemu, od spajanja i akvizicija do inicijalne javne ponude.
01.AI već planira poslovnu strategiju izvan modela otvorenog koda koji su upravo predstavili. Startup će raditi s kupcima na vlasničkim alternativama, prilagođenim određenoj industriji ili konkurentskoj situaciji. Na primjer, Yi-34B je dobio ime po 34 milijarde parametara korištenih u obuci, ali startup već radi na modelu od više od sto milijardi parametara.
"Naš vlasnički model bit će testiran s GPT-4", rekao je Lee, misleći na OpenAI-jev LLM.
To što ćemo ponuditi sustav na engleskom i kineskom bit će prednost za globalne tvrtke poput banaka, osiguravatelja i trgovačkih društava, naglasio je. Startup planira dodati još jezika u budućnosti.
Leejev rad na umjetnoj inteligenciji seže desetljećima unazad. U svojoj prijavi za diplomski studij na Sveučilištu Carnegie Mellon iz 1982. godine napisao je kako želi posvetiti svoj život istraživanju umjetne inteligencije jer će ta tehnologija pomoći ljudima da bolje razumiju sebe. Zatim je napisao dvije najprodavanije knjige AI Superpowers: China, Silicon Valley and the New World Order i AI 2041: Ten Visions for Our Future.
"To je najveći napredak za čovječanstvo", rekao je Lee. "To je također posljednji korak u razumijevanju samih sebe."
Ispričao je kako se često pitao hoće li se potencijali tehnologije realizirati tijekom njegova života - sve dok nije vidio snagu najnovije generacije LLM-a. Odlučio je odstupiti od uobičajene uloge poduzetničkog kapitalista i postati izvršni direktor startupa zbog obećanja tehnologije i prilike da poveže svoja znanja računalnog znanstvenika, autora i izvršnog direktora.
01.AI se odlučio za izradu modela otvorenog koda jer si velika većina UI programera ne može priuštiti ili im ne trebaju najveći, najskuplji modeli. Sustavi umjetne inteligencije otvorenog koda su poput softvera otvorenog koda, gdje se izvorni kod može modificirati i poboljšati.
Veličina upravo lansiranog UI sustava, 34 milijarde parametara, pažljivo je odabrana kako bi mogao raditi na računalima koja nisu pretjerano skupa. Tvrtka također izdaje model 6B kako bi se obratila širem krugu programera. "To je vrlo proračunata odluka", rekao je Lee. "Svijetu ne treba još jedan proizvoljni model, svijet treba nas."
Lee kaže kako su ga partneri u tvrtki rizičnog kapitala pitali kako će balansirati dvostruku ulogu izvršnog direktora. Kazao je kako, ako 40 sati tjedno provede na Sinovationu, ima još 128 sati tjedno. "Imam još 86 sati za raditi na 01.AI bez zanemarivanja svojih dužnosti u Sinovationu", rekao je sugerirajući kako bi mogao odvajati svega šest sati dnevno za spavanje i sve ostalo u životu.