Nástroj umělé inteligence od Googlu neprošel testem v reálném světě

Technika

Nástroj umělé inteligence (AI) vyvinutý společností Google selhal během testování v reálném světě. Mělo to odhalit známky slepoty.

Mnoho lidí v lékařské oblasti vychvalovalo pomoc, kterou přinesly nástroje umělé inteligence. Tyto nástroje se obvykle používají v procesu screeningu mnoha onemocnění. Pokud jsou tyto nástroje řádně vyškoleny, mohou poskytnout vysoce přesnou diagnózu.

Google Health vyvinula AI pro hluboké učení, která skenuje obrázky oka. Nástroj AI pak na těchto snímcích hledá důkazy diabetické retinopatie. Diabetická retinopatie je jednou z hlavních příčin slepoty na celém světě.

Google tvrdí, že nástroj AI byl řádně vyškolen. Technologický gigant dodal, že když byl testován v kontrolovaném prostředí, vrátil přesné výsledky. Zdá se však, že tato přesnost nebyla přenesena do reálných testů.

Co se pokazilo

Výzkumníci Google a lékařští experti testovali tento nástroj na klinikách v Thajsku. Výzkum a testy probíhaly po dobu osmi měsíců. Tým shromáždil data od pacientů z celkem 11 klinik.

Navzdory vysoké teoretické přesnosti nástroj při testování v reálném světě selhal. Negativní výsledek nakonec frustroval pacienty i výzkumníky. Výsledek také vyvolal otázky ohledně účinnosti nástrojů AI v aplikacích v reálném světě.

Podle Googlu jsou jedním z důvodů, proč nástroj selhal, různé faktory prostředí. Technologický gigant uvedl, že faktory, jako je osvětlení místnosti, mohou mít přímý dopad na kvalitu snímků.

Zkušení a vyškolení kliničtí technici mohou správně reagovat a přizpůsobit se těmto faktorům prostředí. Na druhou stranu je potřeba nástroje umělé inteligence řádně vycvičit, aby takové situace zvládaly.

Google dodal, že osvětlení má významný dopad na snímky, které shromáždil. V některých případech mají pořízené snímky tmavé oblasti a rozmazání. Nástroj pak tyto oblasti interpretoval jako negradovatelné, což ovlivnilo jeho přesnost.

Co to znamená pro AI

Zjištění Googlu by mohlo odborníkům pomoci, jak trénovat lepší nástroje AI. Navzdory neúspěchu v testech v reálném světě Google tvrdí, že lekce získané během testu jsou pro budoucnost umělé inteligence neocenitelné.

Technologický gigant dodal, že problém nebyl s nástrojem umělé inteligence. Jedním z důvodů, proč selhal, bylo to, že jej vývojáři nedokázali vycvičit na různé situace. Ačkoli nástroj AI přinesl některé cenné výstupy, Google uvedl, že musí být dokonale přesný, než bude možné jej dále používat.

Obrázek se svolením Hitesh Choudhary /Odstříknout