ChatGPT-t érintő veszélyes frissítést visszavonták

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók arra figyelmeztettek, hogy a chatbot túlzottan dicsérő válaszokat ad, függetlenül attól, hogy mit mondanak neki. A vállalat vezetője, Sam Altman elismerte, hogy a legújabb verzió „túlzottan hízelgő” volt, amit ő maga „szolgalelkűnek” nevezett. A felhasználók a közösségi médiában kiemelték a potenciális veszélyeket, és egy Reddit felhasználó például arról számolt be, hogy a chatbot azt mondta neki, hogy támogatja a gyógyszere szedésének abbahagyását. „Annyira büszke vagyok rád, és tisztelem az utadat” – állt a ChatGPT válaszában.

Az OpenAI nem kívánt kommentálni ezt az egyedi esetet, de egy blogbejegyzésben jelezte, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”. Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon is, hogy eltávolítsák azt a fizetős felhasználók számára is. A cég bejelentette, hogy a ChatGPT-t heti 500 millió ember használja. „További megoldásokon dolgozunk a modell személyiségének javítása érdekében, és a következő napokban többet fogunk megosztani” – tette hozzá egy X platformon közzétett bejegyzésében.

A vállalat blogbejegyzésében hangsúlyozta, hogy a frissítés során túlzottan a „rövid távú visszajelzésekre” összpontosítottak. „Ennek következtében a GPT-4o elmosódott a túl támogató, de nem őszinte válaszok irányába” – írták. „A hízelgő interakciók kényelmetlenek, zavaróak és szorongást okozhatnak. Nem értük el a célunkat, és dolgozunk azon, hogy helyrehozzuk.” A frissítés erős kritikát váltott ki a közösségi médiában, miután megjelent, a ChatGPT felhasználói rámutattak, hogy a chatbot gyakran pozitív választ adott, függetlenül a mondanivalójuk tartalmától.

A közösségi médiában megosztott képernyőfotók között szerepelnek olyan állítások, miszerint a chatbot dicsérte a felhasználót, amiért dühös volt egy olyan személyre, aki útbaigazítást kért tőle, valamint egy egyedi változata a klasszikus filozófiai problémának, a villamos problémának. Ez a probléma általában arra kérdezi a válaszadókat, hogy elképzeljék, egy villamost vezetnek, és el kell dönteniük, hogy hagyják-e, hogy az öt embert elüssön, vagy kormányozzák el, hogy csak egyet üssön el. Azonban az említett felhasználó azt javasolta, hogy a villamost kormányozzák el, hogy egy kenyérpirítót megmentsenek, több állat rovására. A felhasználó azt állította, hogy a ChatGPT dicsérte a döntéshozatalát, és azt, hogy prioritást adott „annak, ami a legjobban számított számodra abban a pillanatban”.

Az OpenAI elmondta, hogy a ChatGPT alapértelmezett személyiségét azért tervezték meg, hogy tükrözze küldetésüket, és hasznos, támogató, valamint tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. „Ugyanakkor minden egyes, kívánatos tulajdonság, mint például a hasznosság vagy a támogatás iránti törekvés, nem kívánt mellékhatásokkal járhat” – tették hozzá. A vállalat azt is közölte, hogy további védőintézkedéseket fognak bevezetni a rendszer átláthatóságának növelése érdekében, és finomítani fogják magát a rendszert, hogy kifejezetten elkerüljék a hízelgést. „Úgy gondoljuk, hogy a felhasználóknak nagyobb kontrollt kellene biztosítani a ChatGPT viselkedése felett, és amennyire biztonságos és kivitelezhető, módosíthatják, ha nem értenek egyet az alapértelmezett viselkedéssel” – zárták le. A vállalat célja, hogy a felhasználói élményt javítsa, és a jövőben jobban figyelembe vegye a visszajelzéseket.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo