OpenAI je pristao da kupi Promptfoo, startap koji velikim kompanijama omogućava da pronađu i otklone bezbjednosne probleme u modelima vještačke inteligencije (AI) tokom njihovog razvoja, kao dio šire strategije da korporativnim klijentima pomogne da smanje potencijalne rizike prilikom primjene AI softvera.
Kompanija koja stoji iza ChatGPT-ja trebalo bi uskoro da objavi da će tehnologiju Promptfoo integrisati u OpenAI Frontier, nedavno pokrenutu platformu koja organizacijama omogućava da razvijaju i upravljaju AI agentima. Frontier je zamišljen tako da pomogne da svaki agent - kojeg OpenAI naziva "AI saradnik" - ima odgovarajuće zaštitne mehanizme i pristup podacima. Uslovi akvizicije nisu objavljeni.
OpenAI i njegovi rivali utrkuju se u razvoju sve naprednijih AI agenata koji mogu da obavljaju složene zadatke u ime korisnika, uz minimalnu potrebu za ljudskom intervencijom. Istovremeno, kompanija pokušava da ubijedi širi krug preduzeća da plaća ovu tehnologiju, naglašavajući da su takvi proizvodi efikasni i bezbjedni.
"To što OpenAI preuzima Promptfoo šalje jasnu poruku da kompanija želi da korporativnu vještačku inteligenciju učini ne samo moćnom, već i bezbjednom i pouzdanom u velikim razmjerama", rekao je Ganesh Bell, direktor u Insight Partnersu, koji je prošle godine predvodio investicionu rundu od 18,4 miliona dolara u ovaj startap. Promptfoo, startap osnovan prije dvije godine, razvija alate otvorenog koda za testiranje bezbjednosti AI sistema, kao i alate koji pomažu kompanijama da pokušaju da "napadnu" sopstvene proizvode kako bi pronašle slabosti - ovo je proces poznat kao "red-teaming" (metoda bezbjednosnog testiranja u kojoj se sistem namjerno napada iznutra ili spolja, radi otkrivanja slabosti).
Startap sa sjedištem u San Franciscu među klijentima ima oko četvrtinu kompanija iz liste Fortune 500.
Promptfoo je jedan u nizu startapa koji razvijaju proizvode iz oblasti cyber-bezbjednosti zasnovane na vještačkoj inteligenciji, namijenjene zaštiti od hakera u trenutku kada i zlonamjerni akteri počinju da koriste sličnu tehnologiju za pronalaženje načina da prodru u kritične mreže. I OpenAI je počeo da svoje AI proizvode i agente oprema bezbjednosnim funkcijama. Prošle nedjelje, kompanija je predstavila AI agenta namijenjenog timovima za bezbjednost koji pomaže u pronalaženju i "zakrpljivanju" slabosti u velikim bazama podataka, slično alatu koji razvija konkurentski Anthropic PBC.
U okviru nove akvizicije, platforma Frontier dobiće funkcije za automatizovano testiranje bezbjednosti i "red-teaming". Proizvod će takođe dobiti funkcije koje organizacijama omogućavaju da prate promjene i evidenciju testiranja, kako bi lakše upravljale rizicima i regulatornim zahtjevima. OpenAI je saopštio da će nastaviti da razvija projekte otvorenog koda Promptfooa, dok će istovremeno njegovu tehnologiju integrisati u Frontier.
.webp){kind=icon}
