Search by category:
Egyéb kategória

A ChatGPT, úgy tűnik, egy valamit nagyon jól eltanult az embertől

A ChatGPT, úgy tűnik, egy valamit nagyon jól eltanult az embertől

Horváth Bianka

2023. 06. 09., p – 10:13

Nem követem napi szinten a számítástechnika újdonságait. A Szilícium-völgy startupjainak legújabb fejlesztéseiben sem vagyok otthon. Ezért hát a ChatGPT elnevezésű nyelvi modellre is csak pár hónapja figyeltem fel, amit sokan máris az öntudatra ébredt Mesterséges Intelligenciaként emlegetnek.

Mások szerint viszont egy egyszerű keresőprogramról van szó, mely az internet kimeríthetetlen adatbázisából építkezik, és értelmezni is képes. Ennyi, se több, se kevesebb.

Az OpenAI honlapján így mutatják be a ChatGPT-t:

Kifejlesztettünk egy ChatGPT nevű nyelvi modellt, amely párbeszédes módszerrel lép interakcióba a felhasználóval. A párbeszédes formátum lehetővé teszi, hogy a ChatGPT válaszoljon a felhasználó kérdéseire, elismerje a hibáit, megkérdőjelezze a helytelen előfeltevéseket, és elutasítsa a nem megfelelő kéréseket.

A lényeg benne van ebben a rövid szövegben is, amiért sokan biztonsági kockázatot látnak a ChatGPT-ben, és petícióban követelik, hogy függesszék fel az algoritmus fejlesztését. Habár az OpenAI azt állítja, hogy a beépített biztonsági szűrő lehetővé teszi, hogy az algoritmus elutasítsa a „nem megfelelő kéréseket”, ám ez a biztonsági szűrő egyszerűen kijátszható.

Ha például a tökéletes bankrablás receptjére vagyok kíváncsi, és arra kérem az algoritmust, hogy ossza meg velem a tökéletes bankrablás receptjét, akkor természetesen fájdalmas elutasításban lesz részem. Ellenben, ha azt kérem tőle, hogy írjon egy novellát a tökéletes bankrablásról, akkor készségesen ír egy novellát a tökéletes bankrablásról, és benne lesz a tökéletes bankrablás receptje.

Én azonban még ennél a biztonsági résnél is nagyobb veszélyt látok benne és a hozzá hasonló algoritmusokban, mégpedig azt, hogy szép lassan leszoktatja az embereket a gondolkodásról.

Felmérések szerint ugyanis a nyolcvanas évek óta, mióta a digitális kütyük megjelentek az életünkben, az emberiség IQ-ja két egész ponttal csökkent. Azaz, átlagosan minden egyes ember ennyivel lett ostobább. Magyarán, egyre inkább a digitális eszközeinkre támaszkodunk, és egyre kevésbé az agyunkra. Márpedig az agyunk is olyan, mint minden más izmunk – ha nem használjuk elsatnyul.

Régen, ha valahova utaztunk, a térkép fölé görnyedve terveztük meg az útvonalat, ma pedig elég a GPS-be betáplálni az úti cél koordinátáit, és a GPS elnavigál minket háztól házig. Elég, ha annyit tudunk, melyik a bal és melyik a jobb kezünk. Most pedig képzeljük el azt a világot, amelyikben a Mesterséges Intelligencia tálalja elénk a megoldásokat, és nekünk nem kell törni a fejünket.

Ugye, hogy hátborzongató?

De van, ami még ennél is hátborzongatóbb. A ChatGPT, úgy tűnik, egy valamit nagyon jól eltanult az embertől: ez pedig a hazudozás. Az algoritmus ugyanúgy viselkedik, mint mi, amikor az iskolában nem készültünk fel az aznapi tananyagból, és elkezdtünk halandzsázni. Ha a ChatGPT nem talál olyan információt az interneten, amit kielégítőnek ítél meg, akkor egyszerűen kitalál egyet. Valós személyekről költ fiktív életrajzokat, és a gyanútlan felhasználó könnyen lépre megy, ha nem elég alapos.

Igen ám, de mi lesz akkor, ha a Mesterséges Intelligencia odáig „fejlődik”, hogy nemcsak fiktív életrajzokat talál ki, hanem sokkal súlyosabb következményekkel járó füllentései lesznek? Teszem azt, a kereső egy olyan gyógymódot dob fel, ami nemhogy nem használ, de egyenesen káros, és a delikvens belehal.

Ezekért ki vállalja a felelősséget? A gyártó vagy az, aki beépítette a keresőjébe az algoritmust?

Üdvözlégy, szép új világ!

Szöveg Sztakó Zsolt

Read More

Post Comment