Når patienter spørger AI: Hvor svarene kommer fra, og hvorfor klinikker bør måle deres AI-synlighed

Annonce

Når et migræneanfald er ovre, eller når en ny type hovedpine dukker op, er det naturligt at søge efter svar. Tidligere betød det en søgning i Google og en række links at klikke sig igennem. I dag stiller mange spørgsmålet direkte til ChatGPT eller læser Googles AI-svar øverst på siden. Svaret kommer samlet og med en sikker tone, men det er sjældent tydeligt, hvor oplysningerne stammer fra. For klinikker, foreninger og andre, der formidler viden om migræne, er det derfor blevet relevant at måle sin AI-synlighed og se, om deres viden overhovedet når frem.

For den enkelte patient er spørgsmålet et andet: hvor meget kan man stole på det, AI fortæller?

Hvor AI henter sine svar

En sprogmodel har ikke nogen lægefaglig uddannelse. Den sammensætter sine svar ud fra tekst, den er trænet på, og når den søger på nettet, ud fra de sider, den kan finde og læse. Det kan være sundhedsmyndigheder, patientforeninger, hospitaler, klinikker, nyhedsmedier og debatfora.

Kilderne bliver ikke vægtet efter faglighed på samme måde, som en læge ville gøre det. En velskrevet side fra et forum kan få lige så meget plads i svaret som en side fra en sundhedsfaglig organisation. Svar kan også blande anbefalinger fra forskellige lande sammen eller bygge på oplysninger, der ikke længere er gældende.

Sådan bruger man AI med omtanke

AI kan være nyttig til at forstå begreber, forberede sig til en lægesamtale eller formulere de spørgsmål, man gerne vil have svar på. Det er en anden sag at bruge svarene som grundlag for beslutninger om medicin eller behandling.

Nogle enkle vaner gør en forskel:

  • bed om kilderne bag svaret, og se, om de kommer fra danske sundhedsfaglige afsendere
  • vær særligt varsom med svar om doser, medicin og kombinationer af medicin
  • tag noterne med til lægen i stedet for at handle på dem alene

Ved nye, ændrede eller kraftige symptomer er det altid lægen, der skal vurdere situationen. Ingen AI kan erstatte en undersøgelse.

Hvorfor afsenderen betyder noget

For de organisationer, der arbejder med migræne og hovedpine, rejser udviklingen en ny opgave. Hvis deres sider ikke bliver brugt som kilde, ender patienterne med svar, der er sammensat af andre, og nogle af dem er mindre præcise.

Om en side bliver brugt, afhænger blandt andet af, om AI-tjenesterne har adgang til at læse den, om den svarer klart på de spørgsmål, folk stiller, og om den bliver omtalt andre steder, som AI også læser. Det er ikke noget, man kan se direkte, og fordi AI svarer forskelligt fra dag til dag, siger et par stikprøver i ChatGPT meget lidt.

Et værktøj til at se, hvem AI nævner

For en klinik, en forening eller en virksomhed inden for sundhed er det muligt at måle sin AI-synlighedReklamelink med LLM Tracker fra humane. I det gratis tjek skriver man sit domæne, og på et par minutter ser man, om ChatGPT og Google AI nævner organisationen, og hvem de nævner i stedet. Tjekket søger i Danmark på dansk og viser også, hvilke sider AI henter sine svar fra, og om AI har adgang til at læse sitet.

LLM Tracker tjekker desuden, om det, AI siger om en organisation, er rigtigt, og peger på de sider, der bør skrives, og de steder, hvor organisationen mangler at blive nævnt. Skriver man sin mail i det gratis tjek, åbner svarene på alle spørgsmål, kilderne og tre konkrete forslag til sitet, og den fulde rapport bliver læst igennem af en medarbejder fra humane, før den sendes.

Et enkelt tjek er et øjebliksbillede. Det viser, hvor man står lige nu, mens en retning først bliver synlig, når man måler uge for uge.

Viden, der når frem

For patienter er rådet at bruge AI som et sted at begynde og lægen som stedet at få svar. For dem, der formidler viden om migræne, er det værd at vide, om den viden er en del af de svar, patienterne får. Mere om, hvordan søgning og AI hænger sammen, findes hos humaneReklamelink.