Riziká umelej inteligencie? Hranica medzi pravdou a lžou sa stiera (rozhovor)

Pri príprave tohto rozhovoru som chatbotu zadal otázku, či umelá inteligencia potrebuje etiku. Odpovedal, že určite. „Ako technológia s rastúcim vplyvom na spoločnosť a jednotlivcov, je dôležité, aby bola vyvíjaná, nasadzovaná a používaná spôsobom etickým a prínosným pre ľudí.“ Vaša odpoveď?

Uvedomili sme si jej veľký potenciál meniť podobu spoločnosti a zasahovať do životov. Nie je to len o akomsi inžinierskom rozhodnutí s technologickým dosahom. Nie je to neutrálna technológia, a preto musia byť zachované isté princípy.

Aké boli prvé míľniky umelej inteligencie?

Samotný termín vymysleli v 50. rokoch minulého storočia, keď nastal veľký boom počítačov. Pár expertov si povedalo – poďme ich naučiť myslieť ako ľudia. Časom vývoj akoby uviazol v slepej uličke. Až neskôr sa zmenil spôsob vývoja systémov. Dovtedy mali pripomínať logicky mysliaceho človeka. Vedci však prišli na to, že mozog je v podstate množstvo neurónov, ktoré samy osebe nie sú až také zložité, ale sú poprepájané. Problémy riešia kolektívne a učia sa skúsenosťou. Tento poznatok sa stal kľúčovým.

Medzi posledné programy patrí chatbot ChatGPT, ktorý na scénu vstúpil ani nie pred dvomi rokmi. Lenže stále má svoje limity, alebo sa mýlim?

Je to trochu čierna skrinka a nevieme, čo nám z nej vypadne. Ľudia si vôbec neuvedomujú, že neposkytuje garanciu správnej odpovede. Niekedy ChatGPT poskytne 90 percent obsahu správne a zvyšok je úplná hlúposť. Vedci na to vymysleli termín „halucinovanie“. Systém je programovaný tak, že sa snaží vypočítať, čo by bola najužitočnejšia a najpravdepodobnejšia veta nasledujúca po predchádzajúcich tvrdeniach, ktorými bol nakŕmený. Keby bol účastníkom na nejakej párty a jeho cieľom je udržovať konverzáciu, tak si môže vymýšľať a klamať, hlavne nech to znie uveriteľne....