OpenAI – Príležitosť alebo hrozba?

Organizácia OpenAI je jedna z popredných inštitúcií zaoberajúca sa výskumom a zavádzaním umelej inteligencie - jazykových modelov založených na ML² umelej a všeobecnej umelej inteligencie (AGI). Ako každý technologický pokrok, aj OpenAI prináša príležitosti aj hrozby, ktoré je dôležité sledovať a adekvátne na ne reagovať.

Ako funguje OpenAI?

Elon Musk, jeden zo zakladateľov OpenAI, tvrdí, že: „Tieto modely sú založené na strojovom učení a tvorbe učiacich sa algoritmov. Ide napríklad o modely masových neurónových sietí, ktorých tréningový súbor dát pozostáva z miliárd viet nájdených na internete. Takýto algoritmus je schopný naučiť sa nájsť čo najpresnejšiu odpoveď na základe sémantickej analýzy dotazu.“

Príležitosti AI

OpenAI prináša obrovské príležitosti v oblasti vývoja a využívania umelej inteligencie. Pracuje na hlbokom učení, ktoré je jedným z najprogresívnejších odvetví AI. Vytvára tak pokročilé modely ako GPT-3 a GPT-4, ktoré dokážu písať texty, odpovedať na otázky, prekladať jazyky a mnoho ďalších úloh.

OpenAI je známa aj svojou transparentnosťou a otvorenosťou výskumu AI. Spoločnosť publikuje veľkú časť svojho výskumu a umožňuje tak celému svetu pochopiť a využiť najnovšie pokroky v tejto oblasti. To môže prispieť k rýchlejšiemu a širšiemu uplatneniu AI vo vede, technológiách, medicíne a mnohých ďalších oblastiach. Poslaním AI je podľa vlastných slov to, aby umelá inteligencia prinášala prospech celému ľudstvu.

Hrozby AI 

Tak ako každá iná mocná technológia, aj AI prináša určité riziká. Medzi najobávanejšie hrozby patrí, že rozvoj AI povedie k strate pracovných miest v dôsledku automatizácie. Toto je významný sociálny problém, ktorý vyžaduje premyslené politické a ekonomické rozhodnutia.

Jedným z rizík je aj zneužitie technológie. Napríklad pokročilé generatívne modely môžu byť využité na vytváranie falošných správ, dezinformácií alebo na manipuláciu s ľuďmi.

Existuje aj obava z tzv. superinteligencie - AI, ktorá by prekonala ľudskú inteligenciu vo všetkých ohľadoch. Takáto situácia by mohla mať nepredvídateľné a potenciálne katastrofálne následky.

Čo si o využívaní AI myslí náš lektor Dalibor Pánek?

Osobně jako učitel spatřuji ve využití ML v akademické sféře spíše příležitost než hrozbu za předpokladu využívání nástrojů na odhalování podvodů. Co se týče rizik zneužití ChatGPT nebo GPT-4 při psaní seminárních, diplomových a jiných školních a akademických prací, existují už naštěstí i nástroje pro odhalení podvodů jako je např. DetectGPT (https://detectgpt.ericmitchell.ai ), který „hledá na základě analýzy hotového AI modelu vzory, které používá i cílová neuronka. Pokud to bude fungovat, DetectGPT pomůže učitelům v odhalování umělých textů nebo třeba analytikům v boji proti strojově generovaným fake news a jiných nesmyslů,“ hovorí lektor Počítačovej školy GOPAS, Dalibor Pánek.

"Dlužno také dodat, že ChatGPT a GPT-4 jsou modely, které jsou pořád ve vývoji, a tak v současné době generují občas i chyby, které jsou zřejmé na první podhled přímo i uživateli. Přímo na webu openai.com si můžete ověřit nedokonalost generovaných výstupů jazykového modelu ChatGPT, kdy generuje i mylné závěry, což je ošetřeno daleko sofistikovanějším a lépe vytrénovaným upgradem modelu GPT-4, který generuje méně chyb," dodáva lektor Počítačovej školy GOPAS, Dalibor Pánek.

Zdroj: Dalibor Pánek

Dalibor Pánek

Pedagóg a lektor s talentom učiť zložité koncepty jednoduchým a pútavým spôsobom. Dalibor má odborné znalosti v oblasti ekonómie, základnej analýzy dát, vzdelávacích technológií a spolupracuje s niekoľkými vzdelávacími inštitúciami, vrátane Počítačovej školy GOPAS a Obchodný Inštitút Praha kde učí kancelárske aplikácie, angličtinu a Pearson Business and Technology program. V súčasnej dobe študuje nadväzujúce magisterské štúdium Podnikové informačné systémy na VŠE v Prahe.

Aká je teda budúcnosť Open AI?

OpenAI predstavuje fascinujúci svet možností aj výziev. Je len na nás, ako sa s týmito možnosťami a výzvami vysporiadame. OpenAI je teda súčasne príležitosťou aj hrozbou. Je ale dôležité, aby sme si boli vedomí obidvoch týchto aspektov. Budúcnosť AI je do značnej miery v našich rukách a my musíme byť pripravení prijať túto zodpovednosť.

Mohlo by vás zaujímať