Trumpa nardymo informacija:
- ECRI įdiegė dirbtinio intelekto programas viršuje iš savo sveikatos technologijų pavojų sąrašo 2025 m.
- ECRI, kuri paskelbė sąrašą praėjusią savaitę, teigė, kad dirbtinio intelekto mokymo duomenų šališkumas „gali sukelti skirtingus sveikatos rezultatus arba netinkamus atsakymus“, pridūrė, kad ši technologija gali pateikti klaidingus ar klaidinančius rezultatus. Dėl šių problemų pacientų saugos grupė perspėjo, kad per didelis pasitikėjimas dirbtiniu intelektu gali lemti netinkamus priežiūros sprendimus.
- Kiti didžiausi 2025 m. sveikatos technologijų pavojai yra nepatenkinti pacientų priežiūros namuose poreikiai, kibernetinio saugumo grėsmės ir nekokybiški arba apgaulingi medicinos prietaisai.
Nardymo įžvalga:
ECRI kiekvienais metais skelbia 10 didžiausių pavojų sveikatai technologijų. 2024 m. įdėjo pelno nesiekianti organizacija „Nepakankamas dirbtinio intelekto, naudojamo medicinos technologijose, valdymas“ yra penktasis didžiausių pavojų sąraše. ECRI pakartojo kai kuriuos savo susirūpinimą dėl dirbtinio intelekto 2025 m. ataskaitoje ir padarė technologiją kaip didžiausią pavojų sveikatai ateinančiais metais.
Susirūpinimą skatina galimas šališkumas, klaidingi ar klaidinantys atsakymai, DI veikimo pokyčiai laikui bėgant ir modelių nesugebėjimas prisitaikyti, kai susiduria su naujomis sąlygomis. ECRI taip pat teigė, kad modeliai „gali duoti nuviliančių rezultatų, jei organizacijos turi nerealių lūkesčių, nesugeba apibrėžti tikslų, neužtikrina pakankamo valdymo ir priežiūros arba netinkamai paruošia savo duomenis“.
ECRI perspėjo vartotojus per daug nepasitikėti dirbtinio intelekto modeliu ir nesugebėti tinkamai išnagrinėti jo rezultatų. Tačiau jei vartotojai imasi atsargumo priemonių, kad išvengtų netinkamų pacientų priežiūros sprendimų, ne pelno siekianti organizacija mano, kad dirbtinis intelektas gali padėti didinti medicininių diagnozių ir gydymo efektyvumą ir tikslumą.
„AI siūlo didžiulę potencialią vertę kaip pažangi priemonė, padedanti gydytojams ir sveikatos priežiūros personalui, tačiau tik tuo atveju, jei žmogaus sprendimų priėmimas išlieka slaugos proceso centre“, – teigiama ne pelno organizacijos ataskaitoje. „Kad būtų išvengta žalos, reikia atidžiai apsvarstyti bet kokį AI sprendimą įtraukiant į sveikatos priežiūros operacijas ar klinikinę praktiką.
ECRI kaip antrą didžiausią pavojų įvardijo nepatenkintus technologinės pagalbos poreikius namuose prižiūrimiems pacientams. Slaugos namuose rizika yra pasikartojanti tema naujausiose ECRI ataskaitose. Netinkamas medicinos prietaisų, kurie yra prastai pritaikyti namų aplinkai ir naudotojams, naudojimas arba gedimas buvo didžiausias pavojus 2024 metais. Namų naudojimo prietaisai taip pat atsidūrė sąrašo viršuje 2023 metais.
Ne pelno organizacija pakartojo savo susirūpinimą 2025 m. ataskaitoje, nurodydama „daug pavyzdžių, kai pacientai kenkia dėl netinkamo namų aplinkoje naudojamų medicinos prietaisų nustatymo arba nesusipratimo su jais“. ECRI teigė, kad pacientams reikia pagalbos norint valdyti, prižiūrėti ir šalinti prietaisus.
Pažeidžiami technologijų pardavėjai ir kibernetinio saugumo grėsmės užėmė trečiąją vietą pavojų sąraše. ECRI teigė, kad reguliavimo agentūros turėtų „nutraukti nuo „bausti, bet neapsaugoti“ požiūrių į kibernetinio saugumo iššūkius ir trečiųjų šalių riziką ir skatinti kolektyvinį požiūrį į elektroninius nusikaltimus ir pardavėjų riziką.
Nestandartiniai arba apgaulingi medicinos prietaisai ir gaisro rizika vietovėse, kuriose naudojamas papildomas deguonis, sudarė penkis didžiausius 2025 m. pavojus. Likusioje sąrašo dalyje buvo nurodytos pavojingai žemos numatytosios anestezijos įrenginių pavojaus ribos, netinkamai tvarkomi laikini vaistų užsakymų sulaikymai, prastai valdoma infuzija. linijos, odos sužalojimai dėl medicininių klijų produktų ir neišsamūs infuzijos incidentų tyrimai.
