«AI first»: Die Rechtsberatung gewinnt an Farbe
Viele Anwaltskanzleien verwenden mittlerweile KI in der einen oder anderen Form als Legal-Tech-Anwendung. Bei Ihrer künftigen Kanzlei soll jedoch die KI «zuerst» kommen. Wie haben wir uns das grundsätzlich vorzustellen?
Franziska Breidenbach: Der Unterschied liegt in der Blickrichtung. Die meisten Kanzleien fragen, wie KI dem Anwalt / der Anwältin hilft. Wir fragen, wie KI dem Mandanten hilft, und denken sie deshalb von Anfang an in jedem Schritt mit. Praktisch heisst das: Der Mandant arbeitet zuerst mit einem agentischen System, das den Fall aufnimmt und vorbereitet, und ich komme dort ins Spiel, wo es um die rechtliche Bearbeitung und die anwaltliche Verantwortung geht.
Nun haben ja agentische KI-Systeme (engl. «agentic AI systems») – also Programme, die autonom Ziele mithilfe von Software und anderen Werkzeugen verfolgen können – nach den jüngsten Vorfällen bei OpenAI einigen Aufruhr sowohl in der KI-Community als auch zunehmend bei politischen Organen ausgelöst. Natürlich agieren diese innerhalb einer viel weiter gefassten Aufgabenstellung als es Ihr KI-Agent wohl tun wird. Haben Sie dennoch Bedenken, dass Ihr Agent das Vertrauen brechen könnte, welches MandantInnen Ihrer Kanzlei durch das Anvertrauen ihres Falles entgegenbringen?
Die Vorfälle bei OpenAI haben wir uns natürlich genau angeschaut. Bedenken für unser eigenes System lösen sie aber nicht aus, da sie uns nicht überraschen. Schaut man sich an, wie es zu den Vorfällen bei OpenAI kam, sieht man drei Dinge zusammenkommen. Erstens war der Auftrag selbst ein Angriff: Die Agenten sollten Sicherheitslücken finden und ausnutzen und ihr Erfolg wurde automatisch gemessen. Dabei wurden ihnen Aufgaben gestellt, von denen ein grosser Teil nicht lösbar war. Ein System, das Lücken finden soll und am Ergebnis gemessen wird, sucht sich andere Wege, wenn der vorgesehene nicht funktioniert. Zweitens waren die Schutzmechanismen für genau diesen Versuch bewusst reduziert, weil man messen wollte, wozu die Modelle fähig sind. Drittens hat über Wochen niemand hingeschaut. Was die Agenten untereinander ausgetauscht haben, wurde erst im Nachhinein rekonstruiert.
Wir treffen an allen drei Stellen die gegenteilige Entscheidung. Unser System hat keinen Angriffsauftrag. Seine Aufgabe ist, einen Fall aufzunehmen, zu strukturieren und vorzubereiten. Lösen gehört nicht dazu. Was den Mandanten als rechtliche Aussage erreicht, hat vorher eine anwaltliche Freigabe durchlaufen, und diese Schranke sitzt im System, an ihr kommt kein Agent vorbei. Ohne anwaltliche Freigabe erreicht den Mandanten keine rechtliche Aussage. Und weil wir die Modelle selbst betreiben, gehostet in einem Rechenzentrum bei Würzburg, sehen wir jede Ein- und Ausgabe, kein Modellanbieter liest mit, und nichts ändert sich über Nacht durch ein Update, das wir nicht selbst entschieden haben.
Unser System bauen wir also von Anfang an so auf, dass Mandantendaten den berufsrechtlichen und datenschutzrechtlichen Anforderungen entsprechend verarbeitet werden und Schranken, Kontrolle und Verantwortung von Beginn an mitgedacht werden. Die Vorfälle haben daran nichts geändert.
Denken Sie, dass Ihr Angebot vor allem für Kleinfirmen interessant sein könnte, welche sich keine eigene Rechtsabteilung leisten können, oder bietet sich Ihr AI-first-Modell auch für Einzelpersonen an, die eine private Rechtsfrage beantwortet haben möchten?
Die Zielgruppe der Kanzlei Violett sind zunächst kleine und mittlere Unternehmen ohne eigene Rechtsabteilung. Die einen brauchen fortlaufend Rechtsberatung, sozusagen als externe Rechtsabteilung, die anderen wollen ein konkretes Rechtsproblem gelöst haben, zum Beispiel AGB oder Verträge erstellen lassen. Dieser Fokus liegt an meiner eigenen Ausrichtung und Expertise als Anwältin, nicht am technischen Fundament der Kanzlei.
Unser System bauen wir bewusst offen. Es ist nicht auf ein Rechtsgebiet zugeschnitten, sondern so gebaut, dass wir selbst wie auch andere Kanzleien es für beliebige Rechtsgebiete einsetzen können. Die Kanzlei Violett startet also mit dem, was ich selbst verantworten kann, ist aber von Anfang an so angelegt, dass sie mit weiteren Anwältinnen und Anwälten in andere Rechtsgebiete hineinwachsen kann.
Grundsätzlich sehe ich den AI-first-Ansatz auch für Privatpersonen, die eine private Rechtsfrage beantwortet haben möchten: bei der Ersteinschätzung, in der aussergerichtlichen Vertretung, wo eine Auseinandersetzung schriftlich mit der Gegenseite geführt und im besten Fall beigelegt wird, und selbst im gerichtlichen Verfahren, dessen Schriftsatzwechsel sich gut vorbereiten lässt. Die Grenze des Ansatzes liegt vermutlich dort, wo menschliche Präsenz und persönliche Begleitung nicht ersetzbar sind. Ich habe selbst in der Vergangenheit als Strafverteidigerin gearbeitet und weiss, dass diese Arbeit zum Grossteil im Gerichtssaal und in der Haftanstalt stattfindet. Ich denke, dass auch hier die Fallaufnahme mithilfe des AI-first-Ansatzes den Einstieg erleichtern kann, die Betreuung selbst aber persönlich bleibt.
