Künstliche Intelligenz liegt in 70 Prozent der medizinischen Fragen falsch.

Künstliche Intelligenz kann ernsthaften Schaden anrichten, wenn wir uns bei der Diagnose und Behandlung von Krankheiten, insbesondere heikler Erkrankungen, auf Chatbots verlassen: In 70 Prozent der Fälle sind ihre Antworten auf medizinische Fragen falsch, und ein Drittel der Literaturangaben ist ungenau oder erfunden. Diese überraschenden und beunruhigenden Daten, die sorgfältig interpretiert werden müssen, um unsere eigene Gesundheit und die Gesundheit anderer nicht zu gefährden, sind das Ergebnis einer wissenschaftlichen Studie unter der Leitung von [Name der Koordinierungsstelle einfügen]. Vincenzo Guastafierro, am Humanitas Clinical Institute und der Humanitas University in Rozzano, in der Provinz Mailand.

Daher sind die Fehler, die mit einem unkontrollierten und passiven Einsatz künstlicher Intelligenz einhergehen, noch gravierender als jene, die durch die schlechte Angewohnheit entstehen, alle Antworten (von der Diagnose bis zur Behandlung) für jede Krankheit allein durch das Wort des Arztes zu kennen. Dr. Google.

La Ricerca dell 'Humanitas University, veröffentlicht am Europäisches Journal für PathologieDie Zuverlässigkeit generativer KI-Modelle als diagnostisches Hilfsmittel wurde analysiert. Die Forscher stellten 200 klinische Fragen in fünf simulierten Szenarien, die gemäß aktuellen Diagnoseleitlinien kalibriert und von erfahrenen Pathologen validiert wurden. ChatGPT lieferte in 62 % der Fälle hilfreiche Antworten, aber nur in 32 % der Fälle korrekte. Von den 214 angegebenen Referenzen waren 18 % frei erfunden..

Aus dieser Untersuchung ergeben sich zwei weitere wichtige Punkte. Der Erste: Bei einigen Erkrankungen, für die KI-Chatbots völlig falsche Antworten geben, handelt es sich um sehr ernste und heikle Themen wie Hautkrebs und Brustkrebs. Der zweite Aspekt: laut einer Umfrage aus dem Jahr 2024, die von KFF-Umfrage zur Verfolgung von Fehlinformationen im Gesundheitswesen, circa 1 von 6 Erwachsenen Er behauptet, mindestens einmal im Monat KI-gestützte medizinische Chatbots zu nutzen, um nach „Gesundheitsinformationen oder -ratschlägen“ zu suchen. Dadurch steigt das Risiko der Verschwendung enorm und breitet sich stark aus.

Lesen Sie auch

• Wie viel Energie verbraucht künstliche Intelligenz?
• Wie stark ist die Umweltbelastung durch künstliche Intelligenz?
• Waisense: Künstliche Intelligenz zur Vermeidung von Wasserverschwendung