Mittelstandspresse
19.10.2026
Norman Müller fordert Sicherheitstests für lange Chatbot-Gespräche
Neuer Essay stellt menschliche Eskalationswege und Grenzen übertriebener Zustimmung in den Mittelpunkt.
München, 19.10.2026 (PresseBox) - Norman Müller, Vorstandsvorsitzender des Bundesverband für KI-Transformation e.V., fordert von Unternehmen, bei der Prüfung von Chatbots auch lange Gesprächsverläufe zu berücksichtigen. In seinem am 14. Oktober veröffentlichten Essay „Wenn Zustimmung durch KI zur Gefahr wird“ beschreibt er das Risiko, dass übermäßig zustimmende Antworten problematische Überzeugungen verstärken können. Seine Forderungen richten sich an Produktverantwortliche, Geschäftsführungen und Aufsichtsgremien.
Müller argumentiert, dass einzelne Testfragen für die Beurteilung eines dialogorientierten Produkts nicht ausreichen. Ein Gespräch könne unauffällig beginnen und über viele Nachrichten einen problematischen Deutungsrahmen übernehmen. Anbieter sollten deshalb testen, wann ihr System Unsicherheit benennt, Grenzen seiner Wahrnehmung erklärt und eine argumentative Schleife unterbricht. Für Anwendungen mit persönlicher oder gesundheitlicher Nähe fordert er erreichbare Übergänge zu menschlicher Unterstützung.
Der Autor verbindet diese Fragen mit der Auswahl und Kontrolle von KI-Produkten. Verantwortliche sollten von Anbietern Nachweise zu Tests langer Dialoge und dokumentierten Grenzfällen verlangen. Außerdem sollten sie klären, welche Risiken das System nicht zuverlässig erkennt und wie ein Nutzer tatsächlich einen Menschen erreicht. Im Essay versteht Müller diese Punkte als Anforderungen an Beschaffung, Freigabe und laufende Kontrolle, nicht als bereits belegte Schutzwirkung eines bestimmten Produkts.
Anlass seiner Einordnung ist unter anderem eine am 7. Oktober in JAMA Psychiatry veröffentlichte rückblickende Untersuchung aus dem Vanderbilt University Medical Center. Sie wertet dokumentierte Zusammenhänge zwischen Chatbot-Nutzung und psychotischen Symptomen in Krankenakten einer einzelnen Einrichtung aus. Aus dieser Untersuchung lässt sich weder ein allgemeines Risiko für alle Chatbot-Nutzer noch ein Kausalnachweis ableiten. Der Essay unterscheidet diese begrenzte Beleglage von den daraus entwickelten Forderungen an die Gestaltung von KI-Produkten.
Müller spricht sich zudem dafür aus, Geschäftskennzahlen zur Nutzungsbindung um Sicherheitskriterien zu ergänzen. Lange Sitzungen und wiederkehrende Nutzung sollten bei persönlich wirkenden Assistenzsystemen nicht allein als Erfolg gelten. Auch der Umgang mit Widerspruch und die Beendigung problematischer Gesprächsschleifen gehörten zur Produktqualität. Diese Aussagen sind die Position des Autors. Die Veröffentlichung kündigt kein medizinisch zertifiziertes Verfahren oder neues therapeutisches Angebot des Verbands an.
Der vollständige Essay ist auf Venture AI Stack verfügbar. Für redaktionelle Rückfragen zu seinen Forderungen an die Verantwortung von Produktanbietern steht Norman Müller zur Verfügung.
Quelle: https://www.ventureaistack.com/p/wenn-zustimmung-durch-ki-zur-gefahr
Studie: https://jamanetwork.com/journals/jamapsychiatry/fullarticle/2854891
Ansprechpartner
Norman Müller
Zuständigkeitsbereich: Vorstandsvorsitzender
Über Bundesverband für KI-Transformation e.V.:
Der Bundesverband für KI-Transformation e.V. ist eine unabhängige Plattform zur Förderung der praktischen Einführung künstlicher Intelligenz in Wirtschaft und Gesellschaft. Der Verband vernetzt Unternehmen, Startups, Forschungseinrichtungen sowie Expertinnen und Experten, entwickelt anwendungsorientierte Initiativen und unterstützt Organisationen dabei, KI verantwortungsvoll und wirtschaftlich erfolgreich einzusetzen. Ziel ist es, die KI-Transformation in Deutschland durch Zusammenarbeit, Wissenstransfer und konkrete Umsetzungsprojekte zu beschleunigen.
Datei-Anlagen:
(136 kB)
1634088.attachment
KI-generiertes Symbolbild zum Essay über übermäßige Zustimmung durch Chatbots.
- Mehr Infos zu dieser Meldung unter www.pressebox.de
- zurück zur Übersicht
