Eine neue MIT-Studie zeigt: Schon kleine Tippfehler in medizinischen Prompts können dazu führen, dass KI-Tools wie ChatGPT & Co. falsche – teils riskante – Empfehlungen geben. Besonders problematisch: Ratschläge wie „Geh nicht ins Krankenhaus“ häufen sich bei unklarer oder umgangssprachlicher Sprache.
Zusammengefasst waren die Resultate:
- Bis zu 9 % höhere Fehlerrate bei kleinen Eingabefehlern.
- Falsche medizinische Empfehlungen durch bunte Sprache, Groß- /Kleinschreibung oder das Wort „vielleicht“.
- Frauen erhalten häufiger fehlerhafte Antworten.
- Die Tools sind zu stark auf strukturierte Trainingsdaten angewiesen – echte Patientensprache überfordert sie.
Microsoft bewirbt seine KI als „4x genauer als Ärzte“ – doch die Studie zeigt: Sicherheit & Klarheit der Eingabe sind entscheidend.
Der Mensch bleibt (noch) unersetzlich.
Zum Artikel: https://www.windowscentral.com/artificial-intelligence/typos-medical-prompts-chatbots-could-be-catastrophic