Naslovna Vesti IBM Watson AI davao rizične savete obolelima od raka

IBM Watson AI davao rizične savete obolelima od raka

13

IBM Watson superkompjuter je došao pod udar kritika nakon što je otkriveno da je davao nedovoljno precizne i nebezbedne savete o tretmanima pacijentima obolelim od kancera.

Ova sistem koristi se u 230 bolnica širom sveta, a osmišljen je kao pomoć doktorima prilikom postavljanja dijagnoza. Sistem koristi veštačku inteligenciju za analizu medicinskih podataka o pacijentima u kombinaciji sa informacijama iz stotina medicinskih žurnala. Od 2015. godine Watson je dao svoje mišljenje i savete za oko 60.000 pacijenata.

Međutim, medicinski eksperti koji sarađuju sa IBM-om na ovom projektu rekli su da Watson, barem u onkološkoj sferi, nije dorastao zadatku i da je često davao neprecizne i nebezbedne savete u vezi tretmana. To je sve bilo predstavljeno u internim dokumentima, među kojima su se nalazile i dve prezentacije Andreja Nordena, bivšeg zamenika direktora za zdravstvo u IBM Watson odeljenju. U jednom od tih izveštaja naveden je slučaj 65-godišnjeg pacijenta sa rakom pluća, koji je imao obilna krvarenja. Watson je u tom slučaju preporučio hemoterapiju i uzimanje leka „Bevacizumab“ koji sam po sebi izaziva obilna krvarenja i ne sme se davati osobama koji ih već imaju, jer može da dovede do fatalnih posledica.

Zagovornici ovog projekta tvrde da su svi saveti hipotetički i da doktori ne moraju da ih se pridržavaju, već su oni samo pomoćno sredstvo prilikom dijagnoze. Ipak, navođenje na pogrešan zaključak može da dovede doktore u zabludu i da oni sami posumnjaju u sopstvenu dijagnostičku procenu i tu se otvaraju vrata ka mogućim problemima. Srećom, do ovog trenutka nije registrovan nijedan fatalni slučaj.


Razlog zbog čega je došlo do ovih problema izgleda da je u tome što je sistem u tokom faze treniranja „hranjen“ hipotetičkim, a ne stvarnim podacima od stvarnih pacijenata. To suštinski znači da su doktori primali preporuke od drugih doktora koji su „punili“ sistem podacima, a ne od veštačke inteligencije koja je sintetizovala ogromnu količinu stvarnih podataka, pa su i izvedeni zaključci bili neprecizni.

Zvaničnici iz IBM-a su kao odgovor na ove tvrdnje objavili dokument u kome se kaže da je na 93% pacijenata pravilno identifikovan tumor i dat pravi tretman, kao i da se konstantno radi na unapređenju sistema. To su ilustrovali podatkom da je samo u poslednjih godinu dana bilo čak 11 softverskih nadogradnji koje su imale za cilj poboljšanje preciznosti identifikacije tumora.

Izvor: Telegraph

Izvor: PC Press IBM Watson AI davao rizične savete obolelima od raka