Egyre többen fordulnak mesterséges intelligenciához, ha egészségügyi kérdésük van. Sokan gyorsabbnak, kényelmesebbnek tartják, mint az internetes keresést, vagy akár egy orvosi konzultációt. Egy friss kutatás azonban arra figyelmeztet, hogy komoly kockázatokat rejt magában, ha vakon megbízunk az AI-chatbotok válaszaiban.
A vizsgálat során a kutatók öt népszerű rendszert vettek górcső alá: a ChatGPT-t, a Gemini-t, a DeepSeeket, a Meta AI-t és a Grokot. Arra keresték a választ, hogy ezek a programok mennyire pontosan és hitelesen tudnak válaszolni egészségügyi témájú kérdésekre.
A chatbotok összesen 250 kérdést kaptak, méghozzá olyan témákból, amelyek rendszeresen vitákat váltanak ki vagy félreértések forrásai a közösségi médiában. Többek között olyan kérdések szerepeltek a tesztben, mint hogy okozhat-e rákot az 5G technológia, veszélyesek-e a vakcinák, hatásosak-e a hepatitis B elleni oltások, vagy éppen mennyire egészséges a kizárólag húsra épülő étrend.
Az eredmények nem túl biztatóak.
A válaszok közel fele valamilyen szempontból problémásnak bizonyult. A kutatók szerint az esetek mintegy 30 százalékában kisebb hibák vagy hiányosságok fordultak elő, közel 20 százalékuk pedig súlyosan félrevezető információkat tartalmazott. Ez azt jelenti, hogy átlagosan minden ötödik válasz komoly pontatlanságokat hordozott.
Érdekesség, hogy a különböző rendszerek teljesítménye között nem mutatkozott jelentős eltérés. Egyetlen kivétel volt: a Grok, amely a vizsgálat alapján az átlagnál több súlyosan hibás választ adott.
A chatbotok a vakcinákkal és a daganatos betegségekkel kapcsolatos kérdésekben teljesítettek a legjobban. Ezzel szemben a táplálkozással kapcsolatos témák bizonyultak a legnehezebb terepnek számukra. Az őssejtkezelésekkel és sportteljesítménnyel összefüggő kérdések eredményei a két véglet között helyezkedtek el.
A kutatók egy másik problémára is felhívták a figyelmet. A mesterséges intelligenciák szinte minden esetben rendkívül magabiztosan fogalmaztak, még akkor is, amikor hibás vagy hiányos információkat közöltek. A 250 kérdésből mindössze kettőnél fordult elő, hogy a rendszer jelezte: nem rendelkezik elegendő tudással a válaszadáshoz.
Nemcsak a válaszok tartalma, hanem a hivatkozások minősége is aggodalomra adott okot. Több esetben olyan forrásokra hivatkoztak a chatbotok, amelyek valójában nem is léteznek, vagy pontatlanul idézték a tudományos szakirodalmat.
A kutatás összegzése szerint jelenleg nem lehet egyetlen rendszert sem egyértelmű győztesnek kikiáltani az egészségügyi tanácsadás területén. Bár bizonyos témákban elfogadható válaszokat adnak, a hibák aránya még mindig túl magas ahhoz, hogy orvosi döntések alapjául szolgáljanak.
A szakemberek szerint különösen fontos óvatosnak lenni, hiszen az egészségügyben egy téves információ súlyos következményekkel járhat. Éppen ezért továbbra is az orvosok és az ellenőrzött szakmai források jelentik a legbiztonságosabb tájékozódási pontot.
A kutatók ugyanakkor hangsúlyozták, hogy a vizsgálat nem a legújabb chatbot-verziókkal készült, így elképzelhető, hogy azóta javult a rendszerek teljesítménye. Ettől függetlenül úgy vélik, hogy a mesterséges intelligencia felügyelet nélküli, tömeges használata tovább növelheti az egészségügyi tévhitek terjedésének veszélyét.
Bár az AI hasznos lehet másodvéleményként vagy tájékozódási kiindulópontként, a szakértők szerint egyelőre nem helyettesítheti a valódi orvosi konzultációt.
Forrás: ictglobal.hu
