GPT je jazykový model od OpenAI, ktorý generuje text podobný ľudskému. Využíva sa v chatbotoch, tvorbe obsahu a automatizácii úloh.
GPT je skratka pre Generative Pre-trained Transformer, typ jazykového modelu umelej inteligencie vyvinutý spoločnosťou OpenAI. V praxi ide o systém, ktorý dokáže generovať text, odpovedať na otázky, písať kód, prekladať jazyky a riešiť desiatky ďalších úloh na základe textového vstupu od používateľa.
GPT nie je aplikácia, ktorú si stiahnete. Je to technológia, veľký jazykový model (LLM), na ktorom bežia rôzne produkty vrátane ChatGPT. Ak ste niekedy použili ChatGPT, komunikovali ste práve s niektorou verziou GPT modelu. Rozdiel medzi GPT a ChatGPT je ako rozdiel medzi motorom a autom — GPT je motor, ChatGPT je hotové auto s volantom a pedálmi.
Generative Pre-trained Transformer je neurónová sieť trénovaná na obrovskom množstve textových dát z internetu. Slovo "Generative" znamená, že model generuje nový obsah. "Pre-trained" hovorí o tom, že model prešiel rozsiahlym tréningom ešte predtým, ako ho niekto začne používať na konkrétne úlohy. "Transformer" je architektúra neurónovej siete, ktorú predstavil tím Google Brain.
GPT funguje na princípe predikcie ďalšieho slova. Keď zadáte prompt "Najlepšia stratégia pre B2B marketing je", model vypočíta pravdepodobnosť každého možného nasledujúceho slova a vyberie to najlogickejšie. Tento proces opakuje slovo za slovom, kým nevygeneruje kompletnú odpoveď. Zjednodušene povedané. GPT je extrémne sofistikovaný autocompletor, ktorý bol trénovaný na stovkách miliárd slov.
Tréning GPT-4 prebiehal na dátach do septembra 2021 (neskôr aktualizovaných), pričom model obsahuje odhadovaných 1.7 bilióna parametrov. Pre porovnanie, ľudský mozog má približne 86 miliárd neurónov. Tieto parametre nie sú neurónmi v biologickom zmysle, ale matematickými hodnotami, ktoré určujú, ako model spracováva a generuje text.
GPT je model, čistá technológia bez používateľského rozhrania. ChatGPT je produkt postavený na GPT modeli s konverzačným rozhraním, bezpečnostnými filtrami a ďalšími vylepšeniami pre bežného používateľa. OpenAI ponúka GPT aj cez API, kde vývojári môžu model integrovať do vlastných aplikácií bez ChatGPT rozhrania.
ChatGPT prešiel dodatočným tréningom pomocou RLHF (Reinforcement Learning from Human Feedback), kde ľudia hodnotili odpovede modelu a učili ho, ktoré sú lepšie. Preto ChatGPT odpovedá zdvorilým konverzačným štýlom a odmieta generovať škodlivý obsah. Samotný GPT model cez API tieto bezpečnostné vrstvy nemá v takej miere.
V praxi to znamená: ak používate ChatGPT na webe alebo v mobilnej aplikácii, interagujete s ChatGPT produktom. Ak vaša firma integruje GPT do vlastného softvéru cez OpenAI API, používate priamo GPT model.
OpenAI vydalo prvú verziu GPT so 117 miliónmi parametrov. Každá ďalšia verzia priniesla exponenciálny nárast kapacity a schopností.
GPT-4 oproti GPT-3.5 skóruje výrazne lepšie v štandardizovaných testoch. V simulovanej advokátskej skúške (bar exam) GPT-4 dosahuje 90. percentil, zatiaľ čo GPT-3.5 len 10. percentil. Pri kódovaní GPT-4 rieši problémy na LeetCode s 67% úspešnosťou oproti 48% u GPT-3.5.
Áno, GPT-4 je objektívne schopnejší model. Rozdiel nie je len v počte parametrov, ale v kvalite odpovedí, schopnosti sledovať inštrukcie a redukcii halucinácií (vymýšľania nepravdivých informácií). GPT-4 dokáže spracovať až 128 000 tokenov kontextu (približne 300 strán textu), zatiaľ čo GPT-3.5 pracuje s maximálne 16 000 tokenov.
V praxi to znamená, že GPT-4 lepšie chápe nuancie zadania, menej často "zabudne" na časti dlhšej konverzácie a produkuje menej fakticky nesprávnych tvrdení. Pre náročnejšie úlohy ako analýza dokumentov, programovanie alebo právne texty je rozdiel markantný. Pre jednoduchý brainstorming alebo písanie krátkych textov môže byť GPT-3.5 dostatočný a je výrazne lacnejší, cez API stojí GPT-4 približne 30-násobne viac za rovnaký objem textu.
Multimodalita je ďalší kľúčový rozdiel. GPT-4 dokáže analyzovať obrázky, môžete mu poslať screenshot webovej stránky a požiadať o UX feedback, alebo fotografiu grafu a získať textovú interpretáciu dát. GPT-3 a GPT-3.5 pracujú výhradne s textom.
ChatGPT (postavený na GPT-3.5) je dostupný zadarmo na chat.openai.com po registrácii. Bezplatná verzia má obmedzenia, pomalšie odpovede počas špičky, žiadny prístup k GPT-4 a obmedzené funkcie ako pluginy či analýza súborov.
ChatGPT Plus za 20 dolárov mesačne poskytuje prístup k GPT-4, prioritný prístup počas vysokej záťaže a nové funkcie skôr ako bezplatní používatelia. Pre firmy existuje ChatGPT Team (25 dolárov na používateľa mesačne) s vyššími limitmi a lepšou kontrolou dát.
Ak chcete GPT integrovať do vlastnej aplikácie alebo automatizácie, potrebujete OpenAI API. Platíte za tokeny, jednotky textu, kde približne 750 slov zodpovedá 1000 tokenom. GPT-3.5-turbo stojí 0.002 dolára za 1000 tokenov, GPT-4 turbo približne 0.03 dolára za 1000 tokenov vstupu. Pre väčšinu biznis use-casov to vychádza na jednotky až desiatky dolárov mesačne, nie stovky.
GPT nachádza uplatnenie naprieč odvetviami. Nejde len o generovanie textov, model dokáže analyzovať dáta, automatizovať repetitívne úlohy a fungovať ako súčasť komplexnejších workflow.
Pri integrácii GPT do firemných procesov sa často stretávame s potrebou prepojenia na existujúce systémy. GPT samotné je "len" jazykový model, potrebuje dáta z CRM, e-shopu alebo interného systému, aby odpovede boli relevantné pre konkrétny biznis. Toto prepojenie riešia API integrácie a automatizačné platformy.
GPT nie je všemocné a má konkrétne slabiny, ktoré treba zohľadniť pred nasadením do produkcie.
Halucinácie sú najčastejší problém. Model občas vygeneruje presvedčivo znejúce, ale fakticky nesprávne informácie. Podľa štúdií GPT-4 halucinuje v približne 3-5% odpovedí pri faktických otázkach, čo je menej ako GPT-3.5 s 15-20%, ale stále dostatočne často na to, aby ste výstupy overovali.
Knowledge cutoff znamená, že model nevie o udalostiach po dátume jeho trénovania. GPT-4 má knowledge cutoff v apríli 2023 (s čiastočnými aktualizáciami neskôr). Ak potrebujete aktuálne informácie, musíte ich modelu poskytnúť v prompte alebo použiť funkcie ako Browsing.
Bezpečnosť dát je relevantná pri práci s citlivými informáciami. Štandardný ChatGPT môže používať vaše konverzácie na ďalší tréning modelu. OpenAI ponúka Enterprise verziu s garantovanou izoláciou dát a API režim, kde sa dáta nepoužívajú na tréning.
Konzistencia výstupov nie je garantovaná. Ten istý prompt môže pri opakovanom použití generovať mierne odlišné odpovede. Pre aplikácie vyžadujúce deterministické výstupy je potrebné nastaviť temperature parameter na 0.
GPT reprezentuje aktuálny stav large language modelov, ale technológia sa vyvíja rýchlo. OpenAI nie je jediný hráč. Google má Gemini (predtým Bard), Anthropic ponúka Claude, Meta vydala open-source Llama modely. Konkurencia tlačí na rýchlejší vývoj a nižšie ceny.
Pre firmy to znamená, že investícia do pochopenia GPT a podobných modelov sa oplatí. Základné princípy, prompting, integrácia cez API, pochopenie limitácií — zostávajú relevantné bez ohľadu na to, ktorý konkrétny model bude dominovať o rok alebo dva.
Ak zvažujete implementáciu GPT alebo iných AI nástrojov do vašich firemných procesov, kľúčové je začať s jasne definovaným use-casom a merateľnými cieľmi. Automatizácia zákazníckej podpory, generovanie obsahu, alebo interné workflow, každý prípad vyžaduje iný prístup k integrácii a nastaveniu. V BigWay sa venujemetrackingu a analytike, vďaka čomu vieme vyhodnotiť reálny dopad AI implementácií na biznis metriky, nie len na subjektívny pocit.
Pozrite si naše projekty z praxe alebo nás kontaktujte, ak chcete prediskutovať, ako môže GPT a AI automatizácia pomôcť konkrétne vášmu biznisu.
