A generatív mesterséges intelligencia az egészségügyet ostromolja

A Google bejelentette a MedLM-et, az egészségügyre finomhangolt mesterséges intelligencia modellcsaládot. A MedLM a Google által kifejlesztett Med-PaLM 2 modellen alapul, amely több tucat orvosi vizsgakérdésben „szakértői szinten” teljesít. A MedLM az Egyesült Államokban a Google Cloud ügyfelei számára érhető el (bizonyos más piacokon előzetesként van jelen), akik a Vertex AI-n, a Google teljeskörűen menedzselt AI-fejlesztő platformján keresztül kaptak hozzáférést.

Két modell mindenre

Jelenleg két MedLM-modell áll rendelkezésre: egy nagyobb modell, amelyet a Google leírása szerint „komplex feladatokra” terveztek, és egy kisebb, finomhangolható modell, amely a „feladatok közötti skálázásra” alkalmas.

„Az eszközeink különböző szervezetekkel való kísérleti tesztelése során megtanultuk, hogy egy adott feladathoz a leghatékonyabb modell a felhasználási esettől függően változik. Például a beszélgetések összefoglalása az egyik modellel, a gyógyszerek közötti keresés pedig egy másikkal oldható meg a legjobban” – írta a TechCrunchnak Yossi Matias, a Google mérnöki és kutatási alelnöke .

A Google szerint az egyik korai MedLM-felhasználó, a for-profit létesítményeket üzemeltető HCA Healthcare kísérleti jelleggel alkalmazza a modelleket orvosokkal, hogy segítsenek a sürgősségi osztályos kórházi helyszíneken a betegfelvételi feljegyzések elkészítésében. Egy másik tesztelő, a BenchSci, a MedLM-et beépítette az új biomarkerek azonosítására, osztályozására és rangsorolására szolgáló „bizonyítékmotorjába”.

A generatív AI egyetlen kép elkészítéséhez annyi energiát fogyaszt, mintha teljesen feltöltené a telefonját

„Szoros együttműködésben dolgozunk a gyakorló orvosokkal, kutatókkal, egészségügyi és élettudományi szervezetekkel, valamint az egészségügy élvonalában nap mint nap tevékenykedő személyekkel” – írta Matias.

A Google – a fő riválisokkal, a Microsofttal és az Amazonnal együtt – elszántan igyekszik bevenni az egészségügyi AI-piacot, amely 2032-re több tízmilliárd dollárt érhet. Az Amazon nemrég indította el az AWS HealthScribe-ot, amely generatív AI-t használ a beteg-orvos beszélgetések jegyzeteinek átírására, összegzésére és elemzésére. A Microsoft különböző mesterséges intelligenciával működő egészségügyi termékeket tesztel, köztük nagy nyelvi modellekkel támogatott orvosi „asszisztens” alkalmazásokat.

A TechCrunch szerint van okunk óvatosnak lenni az ilyen technológiákkal kapcsolatban. A mesterséges intelligencia az egészségügyben eddig vegyes sikereket ért el. A Babylon Health startupot az Egyesült Királyságban többször is vizsgálat alá vonták, mert a cég azt állította, hogy betegségdiagnosztikai technológiája jobb teljesítményre képes, mint az orvosok. A cég, amely valamikor 4 milliárd dollárt ért végül csődöt jelentett. Az IBM pedig kénytelen volt veszteséggel eladni a Watson Health nevű, mesterséges intelligenciára összpontosító részlegét, miután technikai problémák miatt megromlottak az ügyfélkapcsolataik.

A Google MedLM családjához hasonló generatív modellek persze sokkal kifinomultabbak, mint a korábbiak. A kutatások azonban azt mutatják, hogy a generatív modellek nem túl pontosak az egészségügyi ellátással kapcsolatos kérdések megválaszolásában, még az egészen alapvető kérdések megválaszolásában sem.

Szemorvosok egy csoportja által közösen készített tanulmányban a ChatGPT és a Google Bard chatbotjának a szem állapotával és betegségeivel kapcsolatos kérdéseket tett fel, és azt találták, hogy mindhárom eszköz válaszainak többsége kifejezetten téves volt. A ChatGPT potenciálisan halálos hibákkal teli rákkezelési terveket generál. A ChatGPT-t és a Bardot is tartalmazó modellek pedig rasszista, megcáfolt orvosi elképzeléseket fecsegnek a vesefunkcióra, a tüdőkapacitásra és a bőrre vonatkozó kérdésekre.

A WHO lelkes és aggódik

Októberben az Egészségügyi Világszervezet (WHO) figyelmeztetett a generatív mesterséges intelligencia egészségügyi felhasználásának kockázataira, megjegyezve, hogy a modellek káros, téves válaszokat generálhatnak, dezinformációt terjeszthetnek az egészségügyi kérdésekről, és felfedhetnek egészségügyi adatokat vagy más érzékeny információkat. (Mivel a modellek időnként megjegyzik a képzési adatokat, és a megfelelő felszólítás hatására visszaadják ezeknek az adatok egy részét, nem kizárt, hogy az orvosi nyilvántartásokon kiképzett modellek véletlenül kiszivárogtathatják ezeket a nyilvántartásokat.)

„Miközben a WHO lelkesedik a technológiák – köztük a generatív mesterséges intelligencia – megfelelő alkalmazásáért az egészségügyi szakemberek, a betegek, a kutatók és a tudósok támogatására, aggodalomra ad okot, hogy e technológia esetében nem alkalmazzák következetesen azt az óvatosságot, amelyet általában minden új technológia esetében tanúsítanának. A nem tesztelt rendszerek elhamarkodott elfogadása az egészségügyi dolgozók hibáihoz vezethet, kárt okozhat a betegeknek, alááshatja a mesterséges intelligenciába vetett bizalmat, és ezáltal alááshatja vagy késleltetheti az ilyen technológiák potenciális hosszú távú előnyeit és felhasználását világszerte” – áll a WHO közleményében.

A Google többször is azt állította, hogy rendkívül óvatos a generatív AI egészségügyi eszközök kiadásával, amit a cég elnöke is kifejezett. „Arra összpontosítunk, hogy lehetővé tegyük a szakemberek számára ennek a technológiának a biztonságos és felelősségteljes használatát. És elkötelezettek vagyunk amellett, hogy ne csak másoknak segítsünk az egészségügy fejlődésében, hanem biztosítsuk, hogy ezek az előnyök mindenki számára elérhetőek legyenek” – írta Matias.

BLIKK DOSSZIÉ

generatív AI