Hevder å ha åpnet den svarte AI-boksen: IBM med åpen løsning som forklarer hvordan kunstig intelligens fatter beslutninger [Ekstra]

[Kurt Lekanger]

Hevder å ha åpnet den svarte AI-boksen: IBM med åpen løsning som forklarer hvordan kunstig intelligens fatter beslutninger [Ekstra]

[morten7]

Sitert fra artikkelen:

«forsikringsselskap som bruker kunstig intelligens til å avgjøre om en person skal få forsikring eller ikke, eller det kan være en lege som får råd fra en kunstig intelligens om hva slags behandling en pasient bør få»

 

Mente at det var dette som ikke er lov med GDPR og aldri har vært lov i helsesektoren? Maskinen kan bistå med alternativer, men kan ikke være den som tar beslutningen.

[ArneMS]

Høres ut som et typisk eksempel på "explainable machine learning techniques" (XAI)?

XAI vil ha et bredt bruksområde, men pr. i dag er ikke disse ML modellene så effektive...

[Pop]

Sitert fra artikkelen:

«forsikringsselskap som bruker kunstig intelligens til å avgjøre om en person skal få forsikring eller ikke, eller det kan være en lege som får råd fra en kunstig intelligens om hva slags behandling en pasient bør få»

 

Mente at det var dette som ikke er lov med GDPR og aldri har vært lov i helsesektoren? Maskinen kan bistå med alternativer, men kan ikke være den som tar beslutningen.

Du roter nok en del med lovverket her. 

GDPR sier ingenting om en maskin eller lege skal beslutte hvilken helsehjelp som gis. Derimot er det krav om forsvarlig helsehjelp i Helsepersonellovens § 4. Så langt er det ingen som sier at en maskin ene og alene kan være beslutningstager og dermed tilstrekkelig forsvarlig i pasientbehandling. Men de kan være gode støtteverktøy. Om maskinen forteller legen at det er 98,7% sannsynlig at pasienten lider av X, så tenker jeg at legen er ganske trygg på sin diagnostisering. Men legen er fortsatt beslutningstager, både i setting av diagnose og beskrivelse av medisinering, eller annen videre behandling. 

Så den siste setningen din er riktig ja.