Francuski Mistral objavio AI model s hiljadu milijardi parametara koji svako može preuzeti

Mistral Large 4, kojem su u kompaniji dali nadimak "Le Chonk", bio je u probnoj fazi od ranije u oktobru, a težine, odnosno naučene vrijednosti modela, objavljene su u četvrtak, 29. oktobra, javlja TechCrunch. Dostupne su na platformi Hugging Face, a model se može koristiti i preko Mistralovog API-ja te servisa kao što su OpenRouter, Nvidijine platforme i Microsoft Foundry.

Prema podacima kompanije, riječ je o multimodalnom modelu, koji osim teksta može obrađivati i druge vrste sadržaja, a tečno radi na više od 160 jezika. Treniran je od nule na evropskoj infrastrukturi. Licenca je prilagođena MIT licenca: dozvoljena je i komercijalna upotreba, ali firme koje bi model drugima nudile kao uslugu moraju imati posebnu komercijalnu licencu.

Model namijenjen odbrani od hakera

Mistral posebno ističe sajber sigurnost: pronalaženje, reproduciranje i krpljenje ranjivosti u softveru, uz zaštite koje odvajaju odbrambene od napadačkih zahtjeva. Prema rezultatima koje je objavila kompanija, model u prosjeku odbija 96,6 posto zlonamjernih sajber zahtjeva, a na indeksu Artificial Analysis za programerske agente postiže 48 posto, približno kao kineski otvoreni model GLM-5.3, uz 47 posto manje potrošenih tokena po zadatku. To su podaci samog Mistrala, koje tek treba potvrditi nezavisnim testiranjima.

Potpredsjednik Mistrala za nauku Pierre Stock prednost za vlade i firme opisao je za TechCrunch kao "pristup koji se po definiciji ne može prekinuti, jer je model otvoren". Specijalizovanu verziju Mistral daje provjerenim partnerima poput Orange Cyberdefensea, uz testiranje samo na odobrenim sistemima. Kompanija navodi i da nakon praćenja stvarnog korištenja dorađuje zaštite, jer bi model mogao pomoći i u stvarnim napadima.

Šta to znači za korisnike u BiH

Za obične korisnike ovo nije nova aplikacija za telefon: model ove veličine traži ozbiljnu serversku opremu. Za firme, banke, univerzitete i institucije u BiH važnije je to što evropski model mogu pokrenuti na vlastitim serverima, pa osjetljivi podaci ne moraju napuštati njihovu infrastrukturu, a pristup ne zavisi od odluke jedne kompanije. Ko ga koristi preko Mistralovog API-ja, plaća 0,70 dolara za milion ulaznih i 2,10 dolara za milion izlaznih tokena.

Mistral navodi da se model može pokretati otvorenim alatom vLLM. Taj projekat je za N1 kao jedan od najvećih otvorenih AI projekata opisao istraživač Red Hata Eldar Kurtić, koji je studirao na Elektrotehničkom fakultetu u Sarajevu.