Ajakirjas Annals of Internal Medicine Clinical Cases avaldatud lugu kõlab peaaegu uskumatult.
60-aastane mees otsustas oma toitumist „tervislikumaks” muuta, pöördus nõu saamiseks neurovõrgu poole – ja sai lõpuks haruldase mürgistuse, mida tuntakse bromismina.
Uudishimust tragöödiani
Patsient tahtis vähendada soola kogust oma toidus. Lugenud naatriumi kahjulikkusest, otsustas ta vabaneda… kloriidist, mis on tegelikult organismile eluliselt oluline element. Mees toetas oma otsust ChatGPT-st saadud nõuandega, kus tema sõnul oli mainitud mõtet asendada naatriumkloriid naatriumbromiidiga.
Kolme kuu jooksul kasutas mees järjekindlalt bromiidi tavalise soola asemel. Tasapisi ilmusid tal murettekitavad psühhiaatrilised sümptomid: paranoia, hallutsinatsioonid, unetus, tugev janu, väsimus ja koordinatsiooniprobleemid. Lõpuks sattus ta erakorralise meditsiini osakonda.
Mis on bromism?
Bromism on haruldane sündroom, mille põhjustab broomi või selle ühendite kogunemine organismis.
- 19. ja 20. sajandil kasutati bromiide laialdaselt meditsiinis – unerohtudes ja rahustites.
- Aja jooksul selgus, et pikaajaline kasutamine põhjustab raskeid kahjustusi närvisüsteemis.
- 1970. ja 1980. aastatel võtsid Ameerika reguleerivad asutused bromiidid retseptivabade ravimite hulgast välja ja bromismi juhtumid muutusid harulduseks.
Sümptomid hõlmavad psühhoosi, meelepetteid, erutust, mälulünki, aga ka füüsilisi ilminguid: löövet, nahakahjustusi, koordinatsioonihäireid.
Kuidas neurovõrk eksperimendi kaasa tõmbas
Meditsiinilise aruande autorid ei suutnud kontrollida patsiendi täpset dialoogi ChatGPT-ga, kuid rekonstrueerisid võimaliku olukorra: küsimuse korral kloriidi asendamise kohta võis mudel tõepoolest mainida bromiidi, ilma riskide kohta hoiatust andmata.
Kontekst osutus otsustavaks: neurovõrk ei täpsustanud, miks just see küsimus esitati, ega selgitanud, et bromiid on toiduna tarvitamisel mürgine.
See illustreeris AI peamist nõrkust: see võib anda teavet kontekstita ja meditsiinilise ekspertiisita.
Sündmuste areng
Pärast haiglasse saabumist diagnoositi mehel vale kõrgenenud kloriiditase veres – tegelikult oli see liigse bromiidi „maskeeriv” mõju.
Tema seisundit raskendas psühhoos: mees arvas, et naabrid on ta mürgitanud, keeldus vett joomast ja üritas haiglast põgeneda. Teda raviti antipsühhootikumidega, täiendati elektrolüüte ja vedelikke. Tasapisi stabiliseerus tema seisund.
Kolme nädala pärast vähendati psühhotroopsete ravimite annuseid ja veel kahe nädala pärast haiglast väljakirjutamist oli tema seisund rahuldav.
Õppetunnid meditsiinile ja tehnoloogiale
Juhtum oli murettekitav signaal:
- Tehisintellekt ei saa asendada arsti: ChatGPT ja sarnased mudelid ei ole mõeldud diagnooside panemiseks ega dieetide määramiseks.
- Fragmentaarsete vastuste oht: mudel võib mainida tegelikku ühendust, selgitamata sellega seotud riske.
- Haruldus ei tähenda võimatust: isegi kasutusest kadunud „bromism” naasis tänu uudishimu, AI-le usalduse ja kemikaalide kättesaadavuse kombinatsioonile internetis.
„On äärmiselt ebatõenäoline, et kvalifitseeritud arst soovitaks asendada soola naatriumbromiidiga. Kuid AI-l puudub tervet mõistust filtreeriv mehhanism,” rõhutavad uuringu autorid.
See lugu ei räägi ainult meditsiinilisest eksootikast, vaid ka sellest, et pime usk digitaalsetesse nõuannetesse võib maksta tervise arvelt. Neuraalvõrgud on vahend, kuid mitte inimese kompetentsuse asendaja.