Ein Forschungsteam aus Dresden hat erhebliche Sicherheitsrisiken bei der Integration von künstlicher Intelligenz in den klinischen Alltag identifiziert. Die Experten warnen vor KI-Halluzinationen, möglichen Cyberangriffen und gezielten Manipulationen sowie vor dem sogenannten Automation Bias, einem psychologischen Risiko, bei dem Fachleute sich zu stark auf automatisierte Systeme verlassen. Das Team betont, dass die Verlässlichkeit dieser Systeme ohne strikte Kontrollmechanismen nicht gewährleistet werden kann und drängt auf die Einführung verbindlicher Sicherheitsstandards sowie auf dauernde menschliche Kontrolle und die Etablierung von Überwachungsteams.
Kernpunkte:
- In der medizinischen Fachwelt wächst die Besorgnis über die unkritische Integration von Systemen der künstlichen Intelligenz in den klinischen Alltag.
- Ein Forschungsteam aus Dresden hat aktuell auf erhebliche Sicherheitsrisiken aufmerksam gemacht, die mit dem Einsatz dieser Technologien im Gesundheitssektor einhergehen.
- Die Experten mahnen an, dass die Verlässlichkeit der Systeme ohne strikte Kontrollmechanismen nicht gewährleistet sei.
Quelle: Borns IT-Blog (Deutsch)