Rapport: IBM Watson har flere ganger anbefalt fullstendig feil behandling av kreftpasienter

[Harald Brombach (digi.no)]

Rapport: IBM Watson har flere ganger anbefalt fullstendig feil behandling av kreftpasienter

[-Birger-]

Og hvor ofte feilbehandler legene? Er IBM's feilprosent høyere? Er feilene grovere en de menneskelige sviktene? Det er det interessante spørsmålet.

[Han Far]

Og hvor ofte feilbehandler legene? Er IBM's feilprosent høyere? Er feilene grovere en de menneskelige sviktene? Det er det interessante spørsmålet.

 

 

 

I fjor høst ble det kjentat forsøk med systemet ved Rigshospitalet i Danmark ble stoppet på grunn av svært høy feilrate. Rundt en tredel av anbefalingene ble omtalt som «helt borti veggene».

 

Nå er jeg ikke lege selv, men jeg har hørt at de begår grove feil i mindre enn ett av tre tilfeller.

[KANE2009]

Og hvor ofte feilbehandler legene? Er IBM's feilprosent høyere? Er feilene grovere en de menneskelige sviktene? Det er det interessante spørsmålet.

Helt enig. Dette er det virkelige interessante spørsmålet.

[arne22]

Et annet interessant spørsmål det er jo hva kunstig intelligens egentlig er for noe og hvordan dette kommer til å bli brukt i framtiden. 

 

Mitt syn på saken det er jo det at kunstig intelligens er det som ligger i navnet, en "kunstig" eller "etterlignet" intelligens. "Kunstig intelligens" er i seg selv ingen "naturlig intelligens" men den kan fungere som et arbeidsredskap som gir den som innehar "naturlig intelligens" et bedre beslutningsgrunnlag som i neste omgang kan lede til bedre beslutninger.

 

Som med ethvert annet teknisk arbeidsredskap så må man regne med at et system for kunstig intelligens til tider også gir helt feil svar. Man kan på et vis sammenligne et system for kunstig intelligens med en "autopilot for riktig beslutning". I likhet med de autopilotene som brukes for bilkjøring, så må man regne med at kartene noen ganger inneholder feil og at det er et behov for hele tiden å overvåke det som skjer, eventuelt hente ut forskjellige løsninger og forslag og vurdere disse opp mot hverandre.

 

Det er nok neppe slik at "den kunstige intelligensen" vil overta verden, men det kan nok forholde seg slik at den som eier og har tilgang til å bruke og kontrollere den kunstige intelligensen har fått et nytt redskap for sin makt.

 

Opplegget rundt "Watson" er jo ellers spesielt interessant ved at Watsom er gitt evnen til å "tenke irrasjonelt", slik som oss mennesker og å kunne "vurdere" ulike hypoteser opp mot hverandre, og gi beslutninger av denne type: "Når jeg ser det på denne måten, så blir faktisk det jeg sa for litt siden helt feil. Når jeg ser tingene på en litt annen måte så blir min konklusjon faktisk en helt annen."  

 

http://www-07.ibm.com/innovation/in/watson/what_makes_watson_different.html

 

https://www.mprnews.org/story/2012/06/13/health/ibm-watson-medical-technology

Endret 29. juli 2018 av arne22

[Mathtrix]

Det sitter ingen minimennesker inni der og presser brev ut av sprekk når noen spør om noe sånn som man gjorde i gamle dager da automata maskiner var inn..

 

fordi de beveger seg som et dyr så begynner folk å tro at de er dyr..

https://www.youtube.com/watch?v=C7oSFNKIlaM

[arne22]

"Kunstig Intelligens" har jo omtrent de motsatte egenskapene til en slik "Automaton" som er beskrevet i filmen over.

 

Den sistnevnte "maskin" gjennomfører et antall forhåndsdefinerte oppgaver.

 

"Kunstig Intelligens" kan for eksempel analysere store mengder data, for eksempel fra sosiale media, eller noe helt annet, og sette disse sammen til "nye konklusjoner" som kanskje ingen har tenkt på fra før. Watson kan også framsette ulike hypoteser og "vurdere" disse opp mot hverandre.

 

Man kan for eksempel bruke "Kunstig intelligens" til å automatisere en del av de arbeidsoppgavene som utføres av en "data analyst". (Eller å hjelpe en person som jobber med disse tingene til å bli dyktigere i "sitt fag".

 

Ville vel tro og forvente at "kunstig intelligens" etter hvert vil komme inn som et naturlig og nødvendig arbeidsredskap innenfor mange "fag" og yrker. (Av hensyn til konkurransekraft, krav til effektivitet, osv.)

 

Det er vel nokså sannsynlig at Facebook og andre sosiale media og andre netttjenester allerede nå bruker kunstig intelligens til å analysere og kartlegge brukeratferd og nettvaner. Dette kan jo brukes til å bygge opp nokså store databaser med personopplysninger. Derfor så er det kanskje behov for slike reguleringer som GDPR. 

 

https://theintercept.com/2018/04/13/facebook-advertising-data-artificial-intelligence-ai/

 

Mitt syn på saken det er at "kunstig intelligens" det representerer ingen fornuft i det hele tatt, men kunstig intelligens kan gjøre den person som bruker den kunstige intelligensen, som arbeidsredskap, enten mer eller mindre fornuftig, avhengig av hvordan den kunstige intelligensen brukes. Det meste i denne verden som kan "brukes" kan jo også "missbrukes".

 

"Kunstig intelligens" kan jo ellers også være en "webbasert tjeneste" som man kan abonnere på, både nå og i framtiden:

 

https://www.ibm.com/blogs/cloud-computing/2015/01/27/ibm-watson-service-cloud/

 

https://www.ibm.com/watson/products-services/

Endret 29. juli 2018 av arne22

[Fabian Ortiz Sørensen]

Watson er IBM posterboy for AI (light) er en hybrid av AI og maskingvare som ikke er god nok enda. Watson er i basis steinalder versjon av AI, en begynnelse.

[arne22]

Watson er IBM posterboy for AI (light) er en hybrid av AI og maskingvare som ikke er god nok enda. Watson er i basis steinalder versjon av AI, en begynnelse.

 

Synes mye ved Watson er meget bra, spesielt med hensyn til dette med å kunne arbeide ut i fra flere alternative hypoteser og å kunne vurdere disse opp mot hverandre. (Har ikke testet ut dette, bare lest om det, men det er jo faktisk mulig å opprette en konto og teste ut Watson.)

 

Hvilke andre typer kunstig intelligens eller hardware teknologi er det du tenker på? Noen eksempler?

Endret 29. juli 2018 av arne22

[Mathtrix]

"Kunstig Intelligens" har jo omtrent de motsatte egenskapene til en slik "Automaton" som er beskrevet i filmen over.

 

Den sistnevnte "maskin" gjennomfører et antall forhåndsdefinerte oppgaver.

 

"Kunstig Intelligens" kan for eksempel analysere store mengder data, for eksempel fra sosiale media, eller noe helt annet, og sette disse sammen til "nye konklusjoner" som kanskje ingen har tenkt på fra før. Watson kan også framsette ulike hypoteser og "vurdere" disse opp mot hverandre.

 

Man kan for eksempel bruke "Kunstig intelligens" til å automatisere en del av de arbeidsoppgavene som utføres av en "data analyst". (Eller å hjelpe en person som jobber med disse tingene til å bli dyktigere i "sitt fag".

 

Ville vel tro og forvente at "kunstig intelligens" etter hvert vil komme inn som et naturlig og nødvendig arbeidsredskap innenfor mange "fag" og yrker. (Av hensyn til konkurransekraft, krav til effektivitet, osv.)

 

Det er vel nokså sannsynlig at Facebook og andre sosiale media og andre netttjenester allerede nå bruker kunstig intelligens til å analysere og kartlegge brukeratferd og nettvaner. Dette kan jo brukes til å bygge opp nokså store databaser med personopplysninger. Derfor så er det kanskje behov for slike reguleringer som GDPR. 

 

https://theintercept.com/2018/04/13/facebook-advertising-data-artificial-intelligence-ai/

 

Mitt syn på saken det er at "kunstig intelligens" det representerer ingen fornuft i det hele tatt, men kunstig intelligens kan gjøre den person som bruker den kunstige intelligensen, som arbeidsredskap, enten mer eller mindre fornuftig, avhengig av hvordan den kunstige intelligensen brukes. Det meste i denne verden som kan "brukes" kan jo også "missbrukes".

 

"Kunstig intelligens" kan jo ellers også være en "webbasert tjeneste" som man kan abonnere på, både nå og i framtiden:

 

https://www.ibm.com/blogs/cloud-computing/2015/01/27/ibm-watson-service-cloud/

 

https://www.ibm.com/watson/products-services/

 

Det var Leonardo da vinci og de folka der som oppfant AI, hvis det går an å lage noe slikt..

Da vinci mente at mennesker en gang kan lage maskiner som kan tenke som dyr.

 

Det har gått over 500 år med rykter om AI men ingen har noen gang klart å bevise det.

 

I gamle dager var det mange svindlere som latet som om de hadde laget ekte AI, da fjernstyrte de maskinen med usynlige tråder og eventuelt satt inni maskinen og styrte den..

F.eks. maskiner man kunne snakke med og få svar på ting og sånn.. det vi kaller søkemotorer..

Veldig interessant at de tenkte seg frem til søkemotorer for over 500 år siden da..

Spådommen dems var ikke langt unna

[arne22]

Det kommer jo helt an på hva man legger i begrepet "kunstig intelligens". Man bør vel da kanskje legge spesielt merke til det første av disse to ordene "kunstig". Man kunne kanskje også ha skiftet ut dette ordet med "etterlignet", slik at det blir til "etterlignet intelligens".

 

Det er vel klart at man kan få "maskiner" til å utføre oppgaver som, dersom de ble utført av mennesker, ville kreve litt "tenking". For eksempel så kan man jo idag programmere en autopilot til å ta av fra Gardemoen, fly til Paris og lande i Paris. Det er også mulig å programmere for eksempel selvkjørende biler til å kunne "se" og kjenne igjen gjenstander og trafikkmønstre rundt seg.

 

Selv om det er mulig å få maskiner til å "oppføre" seg som om de var intelligente så har jo dette egentlig bare med "automatikk" å gjøre ikke det man kan kalle for en "veloverveid intelligens".

 

Det har på et vis eksistert et slags ønske om å lage roboter og maskiner som ligner på mennesker, derfor så kan det nok være at man har lett for å "tolke inn" noen egenskaper til moderne AI eller "kunstig intelligens" som egentlig ikke finnes. På den annen side så finnes det vel så utvilsomt teknologi som kan bidra til at "ting fungerer av seg selv" og at den som skal ta beslutninger, kan ta disse beslutningene ut i fra mange flere data enn tidligere.

 

Jeg for min del tror at "kunstig intelligens" etterhvert blir til et forholdsvis vanlig arbeidsredskap i en del yrker. Maskinen eller "den kunstige intelligensen" kan jo være like "dum" som et brød, men den kan fungere som et arbeidsredskap som medfører at den som skap utrede forskjellige beslutninger på et bedre og mer omfattende grunnlag. 

 

Hvis man for eksempel er lege og jobber med en vanskelig diagnose for en pasient, så kan det for eksempel være aktuelt å ta i bruk Dr.Watson ikke for å stille en endelig diagnose, men for å se om det er andre måter å vurdere denne problemstillingen på og for å få inn nye alternative ideer for hva som kan være en aktuell diagnose eller løsning på problemet.   

 

En interessant side ved "kunstig intelligens" det er at ved å studere temaet "kunstig intelligens" så kan man få en forståelse av hva "intelligens" eller "tenkning" ikke er for noe.  

Endret 29. juli 2018 av arne22

[XIFXEGLO]

Saken i danmark var at Waton var lært opp med amerikansk behandling, og kom derfor fram til en annen fremgangsmåte enn det legene i Danmark ville anbefalt. Her er det altså legemiljøene som er uenige; Watson har ingenting med saken å gjøre.

At man finner svakheter i diagonosene under testing ser jeg på som en selføgelighet. Det viser jo bare at testingen er grundig.

Annet enn ett forsøk på svarmaling; hva er egentlig denne artikkelen?

Endret 29. juli 2018 av XIFXEGLO

[Mathtrix]

Watson er IBM posterboy for AI (light) er en hybrid av AI og maskingvare som ikke er god nok enda. Watson er i basis steinalder versjon av AI, en begynnelse.

 

det du sier der betyr ingenting på noen fagspråk..

[Mathtrix]

Saken i danmark var at Waton var lært opp med amerikansk behandling, og kom derfor fram til en annen fremgangsmåte enn det legene i Danmark ville anbefalt. Her er det altså legemiljøene som er uenige; Watson har ingenting med saken å gjøre.

 

At man finner svakheter i diagonosene under testing ser jeg på som en selføgelighet. Det viser jo bare at testingen er grundig.

 

Annet enn ett forsøk på svarmaling; hva er egentlig denne artikkelen?

 

Man lærer ikke opp maskiner.. Man lærer opp barna sine..

det heter at man installerer informasjon på datamaskiner.

å installere betyr å "plassere og gjøre klar til bruk"

 

man installerer vaskemaskiner på vaskerommet, og man installerer komfyr til å steke på..

Man installerer også windows på datamaskinen..

 

når man snakker om å installere noe på en datamaskin så mener man i praksis "kopiere og lime inn"

 

noen datamaskiner har sensorer som kan samle inn informasjon, som deretter kan installeres på en datamskin som kan vise det frem eller sende det videre.

F.eks. ekkolodd på båter har slike sensorer.

været spås av ved hjelp av slike sensorer, til og med maten du spiser blir tilberedt ved hjelp av slike sensorer.

Noen kaller det "maskinlæring" men det er feil og er altså bare sensorer og datainformasjonsystemer..

 

En båt lærer ingenting fordi den har et ekkolodd installert.

[TG-]

Kunstig intelligens altså! Blir mer og mer lik virkelige leger!

I virkeligheten, ville jeg nok heller blitt behandlet av et menneske.. ☹️

[karl-wilhelm]

Vokt dem for trollet folkens.

 

Apropos artikkel, har ikke Watson sitt diagonse system vært i stand til å gjøre forslag hominidene ikke hadde tenkt på? Eksisterer det ingen utallelser fra personell i helsevesen med positive erfaringer?

 

Ellers er det liten tvil om hvordan AI har blomstret med sine fremsteg de få siste årene med blant annet de eksepsjonelle læringsegenskapene som foregikk i Go mot verdensmesteren.

[CXSUB4BA]

Antar alle kjente sykdommer med alle kjente symptomer er lagt inn i i watson's hjerne.. Men i hvilken form mottar watson pasientdata? Er det en kopi av pasientjournalen....? Shit in - shit out?

[arne22]

Antar alle kjente sykdommer med alle kjente symptomer er lagt inn i i watson's hjerne.. Men i hvilken form mottar watson pasientdata? Er det en kopi av pasientjournalen....? Shit in - shit out?

 

Der ligger nok faktisk en vesentlig feilkilde. Ved bruk av AI så har man jo både muligheter for "feil i systemet" og kanskje i minst like stor grad muligheten for "feil bruk av systemet". AI nå og i framtiden, vil nok sånn sett først og fremst være et ekstra hjelpemiddel til "den kompetente fagperson", slik at den dyktige kan bli bedre. Selvfølgelig så vil det være mulig å bruke AI på en slik måte at pasienten dør. Det vil nok være nødvendig å kombinere AI med "sunn fornuft". 

Endret 29. juli 2018 av arne22

[Xaphoon]

Er det noen som er idiot nok til å følge "råd" fra en datamaskin?

[quiet_listening]

Dette er hva jeg valgte å si et annet sted (på Twitter). Merk at det er på engelsk, og at tilbakemeldingen er fordelt over flere tweets → https://twitter.com/quiet_listening/status/1023845052899110912

Endret 30. juli 2018 av quiet_listening