SYMAR · Umělá inteligenceOd 2023
SYMAR: syntetické persony už nezávisí na jednom jazykovém modelu
SYMAR provozoval syntetické persony na jednom pevně daném modelu. Přestavěli jsme architekturu pro čtyři poskytovatele a uživatel volí model pro každý úkol.
Fakta o projektu
Každá spolupráce stojí na několika ověřitelných faktech.
- Naše role
- Přepracování architektury
- Odvětví
- Umělá inteligence
- Technologie
- Multimodelová architektura LLM (OpenAI, Google, Anthropic, Mistral) · Řetězení promptů · Multimodální agenti pro text, obraz a video
- Služby
- AI agenti a automatizace
Syntetický výzkum přerostl jeden model
SYMAR, dříve Opinio.ai, staví syntetické persony pro průzkum trhu, testování produktů a analýzu spotřebitelského chování. Persona odpovídá tak, jak by odpovídal vymezený zákaznický segment, a pracuje s textem, obrazem i videem, ne jen s dotazníkem.
Platforma provozovala každou personu na jednom pevně zakódovaném jazykovém modelu. Krátká screeningová otázka a dlouhá analýza nahraného videa kladou na model velmi odlišné požadavky a jeden model nezvládal obojí dobře. Uživatelé neměli možnost volby a kvalita odpovědí kolísala podle úkolu.
O čem potřebuje výzkumník rozhodovat
- Který model úkol zpracuje, s ohledem na kvalitu, rychlost a náklady
- Jak přepnout poskytovatele bez odchodu z pracovního postupu
- Kolik kontextu persona dostane, aby její odpovědi obstály
Co kód nedovoloval
- Připojení modelu bylo zapsané v architektuře, ne v konfiguraci
- Poskytovatelé mají odlišná rozhraní a kód znal jen jedno
- Každá změna na trhu modelů znamenala změnu produktu
Přístup k modelům se oddělil od výzkumné práce
Přepracovali jsme architekturu tak, aby modely stály za jednou společnou vrstvou. Přes ni se platforma připojuje k OpenAI, Googlu, Anthropicu a Mistralu. Přidat poskytovatele znamená integraci, ne přestavbu.
Na této vrstvě jsme postavili řetězení promptů: větší požadavek se rozdělí do posloupnosti instrukcí a pozdější kroky pracují s kontextem, který připravily kroky předchozí. Specializovaní agenti zpracovávají text, obraz a video v kontextu definované persony. Odpověď persony se skládá z těchto kroků, nevzniká najednou.
Jako poslední přišlo rozhraní. Uživatel si pro úkol vybere model a později ho přepne, ve stejném pracovním postupu.
Jedna vrstva, čtyři poskytovatelé
Platforma komunikuje se čtyřmi poskytovateli přes jednu integrační vrstvu. Řetězení promptů a multimodální agenti běží nad ní nezávisle na tom, který model je zvolený.
Rozhoduje uživatel, ne kód
Volba modelu je nastavení v rozhraní, které se dělá pro každý úkol. Uživatel váží kvalitu, rychlost a náklady. Produkt za něj nerozhoduje.
Větší volba bez slibu, že jeden model sedne na každý úkol
SYMAR dnes běží na multimodelové architektuře, řetězení promptů a rozhraní pro volbu modelu. Co persona odpoví, závisí na zdrojích a krocích za ní; který model tyto kroky provede, je rozhodnutí uživatele. Spolupráce pokračuje.
Podobná práce, jiný výchozí bod
Na začátek stačí popis vlastními slovy.
Popište, co vás trápí. Do dvou pracovních dnů se ozveme s prvním praktickým krokem.