{"id":48206,"date":"2026-09-14T10:02:31","date_gmt":"2026-09-14T08:02:31","guid":{"rendered":"https:\/\/neuronup.com\/de\/?p=48206"},"modified":"2026-09-14T10:02:31","modified_gmt":"2026-09-14T08:02:31","slug":"koennen-sprachmodelle-argumentieren-wie-ein-kliniker-neue-evidenzen-ueber-ihre-grenzen-in-der-medizin","status":"publish","type":"post","link":"https:\/\/neuronup.com\/de\/forschung\/forschungslinien\/koennen-sprachmodelle-argumentieren-wie-ein-kliniker-neue-evidenzen-ueber-ihre-grenzen-in-der-medizin\/","title":{"rendered":"K\u00f6nnen Sprachmodelle wie ein Kliniker denken? Neue Erkenntnisse \u00fcber ihre Grenzen in der Medizin"},"content":{"rendered":"\n

Die Doktorandin Marta Arbizu G\u00f3mez analysiert die aktuelle wissenschaftliche Evidenz zu den Grenzen von Sprachmodellen beim klinischen Denken und deren Auswirkungen auf die t\u00e4gliche klinische Praxis<\/strong>.<\/p>\n\n\n\n

\n

Eine in JAMA Network Open ver\u00f6ffentlichte Studie zeigt, dass Sprachmodelle (LLMs) bei der Differenzialdiagnose eine Fehlerquote von \u00fcber 80 % aufweisen, trotz ihrer Genauigkeit bei der abschlie\u00dfenden Diagnose<\/strong>. In der neuropsychologischen Diagnostik und der neurologischen Rehabilitation belegen diese Daten, dass KI das menschliche klinische Denken nicht ersetzt<\/strong> und nur als erg\u00e4nzendes Instrument unter fachlicher Aufsicht eingesetzt werden sollte.\u00a0\u00a0<\/p>\n<\/div><\/div>\n\n\n\n

<\/div>\n\n\n\n

Warum ist es wichtig, das klinische Denken k\u00fcnstlicher Intelligenz zu bewerten?<\/h2>\n\n\n\n

Gro\u00dfe Sprachmodelle<\/a>, bekannt als LLMs, gewinnen im Gesundheitswesen zunehmend an Bedeutung<\/strong>. Sie werden eingesetzt oder ihre Nutzung wird gepr\u00fcft, um Krankenakten zusammenzufassen, Entscheidungen zu unterst\u00fctzen, medizinische Fragen zu beantworten, Berichte zu erstellen oder bei der klinischen Dokumentation zu helfen.<\/p>\n\n\n\n

Dennoch ist eine isolierte medizinische Frage korrekt zu beantworten etwas v\u00f6llig anderes, als das vollst\u00e4ndige klinische Denken nachzuvollziehen, das ein medizinischer<\/strong> Fachmann bei einem realen Patienten anwendet. In der klinischen Praxis ergibt sich eine Diagnose meist nicht aus einer einzigen Antwort, sondern aus einem schrittweisen Prozess: Informationen werden erhoben, Hypothesen aufgestellt, Untersuchungen angeordnet, M\u00f6glichkeiten ausgeschlossen und ein Behandlungsplan festgelegt.<\/p>\n\n\n\n

Bisher basierten viele Bewertungen der k\u00fcnstlichen Intelligenz in der Medizin<\/a> auf Multiple-Choice-Pr\u00fcfungen, etwa medizinischen Zulassungspr\u00fcfungen oder Fragen mit vorgegebenen Antwortm\u00f6glichkeiten. Obwohl diese Formate n\u00fctzlich sind, um Wissen zu messen, erfassen sie die Komplexit\u00e4t des klinischen Denkens nicht vollst\u00e4ndig, insbesondere bei Unsicherheit<\/strong>.<\/p>\n\n\n\n

Die in JAMA Network Open<\/em> ver\u00f6ffentlichte Studie befasst sich genau mit dieser Frage: K\u00f6nnen aktuelle LLMs \u00fcber den gesamten klinischen Ablauf hinweg zuverl\u00e4ssig denken?<\/strong><\/p>\n\n\n\n

<\/div>\n\n\n\n
\n
\n
\n
\"\"<\/figure>\n<\/div>\n\n\n\n
\n

Melden Sie sich
f\u00fcr unseren
Newsletter<\/strong>\u00a0an<\/h2>\n\n\n\n
\n
Jetzt anmelden<\/a><\/div>\n\n<\/div>\n\n\n\n
<\/div>\n<\/div>\n<\/div>\n<\/div><\/div>\n\n\n\n\n
<\/div>\n\n\n\n

Wie wurde die Untersuchung zu LLMs in der Medizin durchgef\u00fchrt?<\/h2>\n\n\n\n

Die Autoren bewerteten die Leistung von 21 hochmodernen Sprachmodellen<\/strong> anhand von 29 standardisierten klinischen Fallvignetten<\/strong> aus dem MSD Manual. Diese Vignetten simulieren klinische F\u00e4lle Schritt f\u00fcr Schritt<\/strong> \u2013 von der Erstvorstellung des Patienten bis zur Diagnose und Behandlung.<\/p>\n\n\n\n

Zu den untersuchten Modellen geh\u00f6rten Systeme verschiedener Familien wie GPT, Claude, Gemini, DeepSeek und Grok. Darunter waren aktuelle und f\u00fcr das logische Denken optimierte Modelle wie GPT-5, Claude 4.5 Opus, Gemini 3.0 Pro und Grok 4.<\/p>\n\n\n\n

Jedes Modell musste Fragen aus f\u00fcnf Bereichen <\/strong>des klinischen Denkens beantworten:<\/p>\n\n\n\n

    \n
  1. Differenzialdiagnose;<\/li>\n\n\n\n
  2. diagnostische Untersuchungen;<\/li>\n\n\n\n
  3. abschlie\u00dfende Diagnose;<\/li>\n\n\n\n
  4. Behandlung oder Therapie;<\/li>\n\n\n\n
  5. und zus\u00e4tzliche klinische Fragen.<\/li>\n<\/ol>\n\n\n\n

    Zur Bewertung der Leistung beschr\u00e4nkten sich die Forschenden nicht auf die Berechnung der Gesamtgenauigkeit. Sie f\u00fchrten eine neue Metrik namens PrIME-LLM<\/strong> ein, die die ausgewogene Leistung des Modells in f\u00fcnf Bereichen des klinischen Denkens zusammenfasst. Diese Metrik wird in Form von Radardiagrammen dargestellt: Je gr\u00f6\u00dfer und ausgewogener die Fl\u00e4che des Diagramms ist, desto besser ist die Leistung des Modells \u00fcber den gesamten klinischen Prozess hinweg<\/strong>. <\/p>\n\n\n\n

    <\/div>\n\n\n\n
    \"Leistung
    Abbildung 1:<\/strong> Leistung der Familien von Sprachmodellen in f\u00fcnf Bereichen des klinischen Denkens: Differenzialdiagnose (DD), diagnostische Untersuchungen (DT), abschlie\u00dfende Diagnose (FD), Behandlung (M) und zus\u00e4tzliche klinische Fragen (Q). Die Abbildung zeigt, dass die Differenzialdiagnose in allen Modellfamilien zu den schw\u00e4chsten Bereichen geh\u00f6rte. Abbildung adaptiert nach Rao et al., 2026.\u00a0<\/figcaption><\/figure>\n\n\n\n\n\n
    <\/div>\n\n\n\n

    Was zeigen die wichtigsten Ergebnisse \u00fcber LLMs bei Diagnosen?<\/h2>\n\n\n\n

    Die Ergebnisse zeigen ein klares Muster: Aktuelle LLMs k\u00f6nnen gute Ergebnisse erzielen, wenn sie die abschlie\u00dfende Diagnose identifizieren sollen<\/strong>, haben jedoch deutlich gr\u00f6\u00dfere Schwierigkeiten, wenn sie eine Differenzialdiagnose erstellen m\u00fcssen<\/strong>.<\/p>\n\n\n\n

    Dieser Punkt ist besonders relevant, da die Differenzialdiagnose ein zentraler Bestandteil des medizinischen Denkens<\/strong> ist. Dabei werden verschiedene diagnostische M\u00f6glichkeiten ber\u00fccksichtigt, Unsicherheiten aufrechterhalten und vorschnelle Festlegungen vermieden. Den Autoren zufolge neigen die Modelle dazu, vorschnell auf eine einzige Antwort zuzulaufen, statt flexibler zu denken, wie es ein Kliniker tun w\u00fcrde<\/strong>.<\/p>\n\n\n\n

    Modelle, die f\u00fcr logisches Denken optimiert waren, erzielten bessere Ergebnisse <\/strong>als nicht optimierte Modelle, doch diese Verbesserung beseitigte die wesentlichen Einschr\u00e4nkungen nicht<\/strong>. Selbst die fortschrittlichsten Modelle zeigten weiterhin deutliche Fehler in den fr\u00fchen Phasen des klinischen Denkens.<\/p>\n\n\n\n

    Insgesamt erzielten Modelle wie Grok 4, GPT-5, GPT-4.5, Claude 4.5 Opus, Gemini 3.0 Flash und Gemini 3.0 Pro<\/strong> die besten Ergebnisse beim PrIME-LLM. Die Studie warnt jedoch davor, dass eine hohe Gesamtgenauigkeit wichtige Schw\u00e4chen verdecken kann, wenn das Modell nicht bei allen Aufgaben ausgewogen leistungsf\u00e4hig ist.<\/p>\n\n\n\n

    <\/div>\n\n\n\n
    Metrik oder Ergebnis<\/strong><\/th>Wichtigste Erkenntnis<\/strong><\/th><\/tr><\/thead>
    Untersuchte Modelle<\/td>21 LLMs<\/td><\/tr>
    Verwendete klinische F\u00e4lle<\/td>29 Fallvignetten<\/td><\/tr>
    Gesamtzahl analysierter Antworten<\/td>16.254<\/td><\/tr>
    Beste Gesamtleistung<\/td>Aktuelle und f\u00fcr logisches Denken optimierte Modelle<\/td><\/tr>
    St\u00e4rkster Bereich<\/td>Abschlie\u00dfende Diagnose<\/td><\/tr>
    Schw\u00e4chster Bereich<\/td>Differenzialdiagnose<\/td><\/tr>
    Fehlerquote bei der Differenzialdiagnose<\/td>Bei allen Modellen \u00fcber 0,80<\/td><\/tr>
    Nutzen von PrIME-LLM<\/td>Erkennt Ungleichgewichte, die die Gesamtgenauigkeit verdecken kann<\/td><\/tr>
    Klinische Schlussfolgerung<\/td>LLMs sind ohne Aufsicht nicht f\u00fcr den autonomen Einsatz sicher<\/td><\/tr><\/tbody><\/table>
    Tabelle 1:<\/strong> Zusammenfassung der wichtigsten Studienergebnisse.<\/figcaption><\/figure>\n\n\n\n
    <\/div>\n\n\n\n

    Welche Auswirkungen hat dies auf die klinische Praxis?<\/h2>\n\n\n\n

    Diese Studie enth\u00e4lt eine wichtige Warnung: Es reicht nicht aus, dass ein Modell abschlie\u00dfende Diagnosen korrekt stellt, um es in der Medizin als sicher einzustufen<\/strong>.<\/p>\n\n\n\n

    In der klinischen Praxis besteht eines der gr\u00f6\u00dften Risiken darin, dass ein Instrument eine scheinbar korrekte Antwort erzeugt, ohne andere M\u00f6glichkeiten angemessen ber\u00fccksichtigt zu haben. Dies kann insbesondere in Situationen mit hoher Unsicherheit ein falsches Sicherheitsgef\u00fchl hervorrufen.<\/p>\n\n\n\n

    Die Ergebnisse deuten darauf hin, dass LLMs bei konkreten klinischen Aufgaben n\u00fctzlich sein k\u00f6nnen<\/strong><\/a>, insbesondere wenn diese klar abgegrenzt sind und von Fachkr\u00e4ften \u00fcberwacht werden. Sie k\u00f6nnten beispielsweise dabei helfen, Informationen zusammenzufassen, Daten zu strukturieren, die \u00dcberpr\u00fcfung von Dokumenten zu unterst\u00fctzen oder in Situationen mit geringer Unsicherheit als erg\u00e4nzendes Instrument zu dienen.<\/p>\n\n\n\n

    Die Autoren sind jedoch eindeutig: Aktuelle Modelle sollten weder als autonome diagnostische Systeme <\/strong>noch in patientennahen Kontexten ohne klinische Aufsicht<\/strong> eingesetzt werden. Ihre Leistung bildet die Komplexit\u00e4t des menschlichen medizinischen Denkens noch nicht ab, insbesondere in den fr\u00fchen Diagnosephasen.<\/p>\n\n\n\n

    Wie steht dieser Fortschritt im Zusammenhang mit NeuronUP?<\/h2>\n\n\n\n

    Bei NeuronUP<\/strong><\/a> <\/strong>arbeiten wir mit evidenzbasierten digitalen Instrumenten f\u00fcr Rehabilitation und kognitive Stimulation<\/a>. In diesem Zusammenhang sind Studien wie diese besonders relevant, weil sie dazu beitragen, die realistische Rolle k\u00fcnstlicher Intelligenz im Gesundheitswesen zu bestimmen<\/strong>.<\/p>\n\n\n\n

    KI kann einen Mehrwert schaffen, wenn sie verantwortungsvoll, transparent und unter Aufsicht integriert wird. So kann sie beispielsweise<\/strong>:<\/p>\n\n\n\n