Claude-Regeln ab 12. November: Mensch muss HR-Empfehlungen prüfen
09. Oktober 2026
KI-generiert, redaktionell von 8thsense ausgewählt, geprüft und freigegeben. EU AI Act, Art. 50
Anthropic hat seine Nutzungsrichtlinie für Claude überarbeitet, die neue Fassung gilt ab dem 12. November 2026. In den Schlagzeilen landete vor allem ein Detail: Nutzer dürfen Claude nicht mehr anhaltend und grundlos beleidigen. Für Geschäftsführer wichtiger ist ein anderer Abschnitt. Wer Claude für Empfehlungen zu Bewerbern, Schichtplänen, Diagnosen, Krediten oder Versicherungsfällen nutzt, braucht künftig eine qualifizierte Person, die das Ergebnis prüft, und muss die Betroffenen über den KI-Einsatz informieren. Neu ist vor allem, für wen das gilt (Quelle: anthropic.com).
Was die Presse berichtet und was im Regelwerk steht
Sowohl heise als auch The Register stellen das Beleidigungsverbot in den Mittelpunkt. Laut Anthropic soll es nur in Extremfällen greifen, also bei wiederholter Grausamkeit ohne erkennbaren Zweck, nicht bei normalem Frust oder kreativer Arbeit mit dunklen Themen (Quelle: theregister.com). Heise ordnet das als Teil der umstrittenen Debatte um „model welfare” ein und berichtet zusätzlich über verschärfte Regeln zu Wahlen, Überwachung und Waffensoftware (Quelle: heise.de). Auf die Regeln für sensible Entscheidungen gehen beide Berichte kaum ein. Die folgenden Punkte stammen deshalb direkt aus dem Richtlinientext und aus dem Vergleich mit der archivierten Vorgängerversion.
Diese Bereiche gelten als hohes Risiko
Anthropic definiert elf „High-risk Areas”. Liefert Claude dort eine Empfehlung zu einer konkreten Person, gelten Zusatzpflichten. Für den Mittelstand sind vor allem diese Felder relevant:
Personal: Bewerber sichten, ranken oder ablehnen, einstellen, befördern, Schichten, Arbeitszeiten oder Gehalt festlegen, Leistung bewerten, abmahnen oder kündigen.
Gesundheit und Pflege: Diagnosen, Therapie- oder Medikamentenempfehlungen sowie Triage- und Wartelistenprioritäten oder die Aufnahme in ein Versorgungsprogramm.
Recht und Steuern: individuelle Rechtsberatung, Hilfe bei der eigenen Steuererklärung.
Bildung: Zulassungen, prüfungsrelevante Bewertungen, Entscheidungen über Täuschungsversuche.
Die Pflichten: Eine qualifizierte Person muss die Empfehlung „sinnvoll prüfen”, bevor sie umgesetzt wird, und die Befugnis haben, sie zu ändern. Diese Person bleibt verantwortlich. Wer betroffen ist, muss klar erfahren, dass KI beteiligt war. Claude oder Anthropic müssen dabei nicht genannt werden (Quelle: anthropic.com).
Neu ist der Geltungsbereich
In der bisherigen Fassung vom 15. September 2025 waren die Hochrisiko-Anforderungen ausdrücklich auf „consumer-facing” Anwendungen beschränkt. In der damaligen Ankündigung hieß es, sie gälten nicht für Geschäftsbeziehungen zwischen Unternehmen (Quelle: anthropic.com). Die neue Fassung gilt für „jeden”, der Claude für eine solche Empfehlung nutzt. Auch der Personalbereich war vorher nur allgemein als Bewerbungs- und Einstellungsthema beschrieben (Quelle: anthropic.com, Archiv). Schichtplanung, Gehalt und Leistungsbewertung stehen jetzt ausdrücklich drin. Anthropic selbst spricht laut The Register davon, bestehende Einschränkungen nur „klarzustellen”. Wer beide Texte nebeneinanderlegt, sieht in der Praxis aber eine spürbare Ausweitung. Nicht neu sind dagegen die Kennzeichnungspflicht für Chatbots im Kundenkontakt und das Verbot gefälschter Bewertungen, beides stand schon in der alten Version.
Was ausdrücklich nicht darunter fällt
Die Richtlinie nennt Ausnahmen, die für den Büroalltag wichtig sind. Nicht erfasst sind allgemeine Informationen ohne Bezug auf die konkrete Person, interne Entwürfe, Recherchen oder Zusammenfassungen, die nicht selbst die finale Empfehlung sind, das Umsetzen einer Entscheidung, die ein Mensch bereits getroffen hat, und Geschäftsabläufe, die nicht über eine bestimmte Person urteilen. Die Zusammenfassung von 80 Bewerbungen für die Personalleitung ist also unkritisch. Lässt man Claude dagegen eine Shortlist erstellen, die ungeprüft zu Absagen führt, ist die Grenze überschritten. Für eindeutig günstige Entscheidungen, etwa eine vollständig bewilligte Versicherungsleistung, entfällt die Prüfpflicht teilweise. Eine Teilbewilligung zählt allerdings nicht als „günstig”.
Der Bezug zum EU AI Act
Die Anbieterregeln sind kein Gesetz. Wer verstößt, riskiert Einschränkungen des Zugangs, keine Bußgelder. Sie laufen aber in dieselbe Richtung wie der EU AI Act. Dessen Transparenzpflichten, etwa der Hinweis, dass man mit einem Chatbot spricht, gelten seit August 2026. Die Pflichten für Hochrisiko-Systeme im Personalbereich, darunter menschliche Aufsicht durch den Betreiber, greifen nach dem AI Omnibus ab dem 2. Dezember 2027 (Quelle: digital-strategy.ec.europa.eu). Anthropics Begriff „High-risk” deckt sich dabei nicht eins zu eins mit der Hochrisiko-Definition der EU. Für Unternehmen heißt das trotzdem: Wer Claude nutzt, muss die Prüfroutine schon gut ein Jahr früher etablieren, als das Gesetz es verlangt.
Was das für Unternehmen bedeutet
Bis zum 12. November bleibt rund ein Monat. Der erste Schritt ist eine kurze Bestandsaufnahme: Wo im Betrieb liefert Claude, direkt oder über die API, Vorschläge zu einzelnen Menschen? Typische Kandidaten sind die Bewerber-Vorauswahl im Pflegedienst, ein Schichtplan-Assistent in der Gastronomie oder ein Triage-Formular in der Therapiepraxis. Für jeden Fall reichen drei Festlegungen: wer fachlich prüft, wie diese Prüfung dokumentiert wird (ein Freigabe-Klick mit Namen genügt oft) und an welcher Stelle Betroffene den KI-Hinweis erhalten. Wer Claude nur indirekt über ein HR- oder Praxisprogramm nutzt, sollte beim Anbieter nachfragen, wie er die neuen Vorgaben umsetzt, denn die Richtlinie bindet zunächst den direkten Vertragspartner von Anthropic.
Der Aufwand ist überschaubar, wenn die Freigabe sauber in den Ablauf eingebaut ist statt nachträglich angeflanscht. Genau dort lohnt der Blick auf die eigene Prozessautomatisierung: Ein Workflow, der die menschliche Freigabe als festen Schritt vorsieht, erfüllt die Anthropic-Regeln heute und die Anforderungen des AI Act 2027 gleich mit.
