Seriálový podnikatel John Pasmore založil Latimer AI poté, co byl svědkem všudypřítomných předsudků ve stávajících velkých jazykových modelech (LLM). Všiml si, jak náhodně byly ignorovány rasistické reakce nástrojů umělé inteligence, což ho přimělo vytvořit platformu navrženou tak, aby poskytovala přesnější a inkluzivnější výsledky, zejména pro černošské a barevné komunity. Není to jen o přidávání funkcí; jde o vyřešení zásadní chyby v tom, jak jsou tyto technologie trénovány a nasazovány.
Problém se současnými systémy AI
Hlavní problém spočívá v datech používaných k výcviku LLM. Tyto modely se učí ze vzorců v informacích, které dostávají, a pokud jsou tato data zaujatá vůči nadměrně zastoupeným skupinám (historicky, v drtivé většině bílých a mužských), AI bude tyto předsudky odrážet. Například, když jsou LLM požádáni, aby poskytli ideální profily vedení, často se nesnaží popsat člověka, čímž udržují systémovou nerovnost. Ačkoli existují zmírňující opatření, kořenem problému je historická nerovnováha. Není to jen nespravedlivé; aktivně posiluje poškození vytvářením nástrojů, které normalizují zkreslené výsledky.
V čem je Latimer AI jiná
Latimer AI zaujímá jedinečný přístup: kombinuje vyhledávání rozšířené generace (RAG) s vlastní kurátorskou databází a také přístup k předním LLM, jako jsou ChatGPT, Claude a Gemini. To znamená, že platforma se nespoléhá pouze na předem vyškolené předsudky. Místo toho aktivně vyhledává informace z externích zdrojů a vlastní databáze, aby prověřila a zpřesnila odpovědi. Výsledkem jsou kontextově relevantnější, kulturně kompetentní a inkluzivní výsledky.
Pasmore zdůrazňuje, že nejde o konkurenci s OpenAI; jde o zajištění toho, aby budoucí generace nebyly nuceny přijímat vyprávění generovaná umělou inteligencí jako absolutní pravdu. Platforma poskytuje víceúrovňový přístup, včetně bezplatného plánu s omezenými interakcemi a integrace API pro vývojáře. Ceny za použití API začínají na méně než 10 centech za 1000 tokenů, díky čemuž je dostupné pro různé aplikace.
Lidský faktor
Klíčovým rozdílem mezi Latimer AI a jinými LLM je jeho pokus vnést do odpovědí empatii a nuance. Na dotaz ohledně environmentálního rasismu poskytuje ChatGPT klinickou definici, zatímco Latimer AI nabízí konkrétní příklady a uznává lidské náklady. Cílem společnosti Pasmore je překonat sterilní definice a zajistit, aby technologie odrážela zkušenosti z reálného světa.
„Chci, aby kladli lepší otázky,“ vysvětluje Pasmore. “Jde o to, nechat zvědavost, aby se znovu stala svalem.”
Toto zaměření na kritické myšlení je nanejvýš důležité. Nástroje AI se tak nějak zdají směrodatné a jejich reakce lze snadno přijmout jako objektivní pravdu. Ale ani špičkové modely jako Claude od Anthropic nejsou neutrální; jsou odrazem předsudků těch, kdo je vytvářejí. Latimer AI se tomu snaží čelit tím, že vyžaduje přesnost a zpochybňuje dominantní příběhy zabudované do těchto systémů.
Větší obrázek
Latimer AI není jen technické řešení; je to odpověď na hlubší otázku: kdo ovládá vyprávění v éře stále silnější umělé inteligence? Pasmore to vidí jako historický opravný prostředek, způsob, jak vytvořit záznam, který nelze přepsat neobjektivními algoritmy. Jeho platforma je navržena nejen k vytváření odpovědí, ale také k povzbuzení uživatelů, aby kladli lepší otázky, a podporuje kritičtější a informovanější přístup k technologiím.
Úspěch Latimer AI nakonec závisí na tom, zda od AI můžeme požadovat více než jen efektivitu. Pokud přesnost a inkluzivita nejsou chápány jako technická omezení, ale jako vědomé volby, máme skutečnou příležitost vybudovat budoucnost, ve které umělá inteligence slouží všem, nejen historicky privilegovaným.
