Moin,für alle die an einfacher & universeller Nutzung von KI-Auswertung starker (lokaler) LLMs (wie z.B. das Modell gpt-oss von OpenAI) an jeder beliebigen Stelle innerhalb von tomedo, wo man mit Textbausteinen arbeiten kann (also: fast überall), interessiert sind, habe ich eine Lösung, die verhältnismäßig leicht nachgebaut und auf eigene Bedürfnisse angepasst werden kann. Mit dieser Technik kann auf praktisch jede, per API erreichbare KI, also z.B. die lokale Modelle über Ollama zugegriffen werden. Ziel: KI-gestützte Auswertung eines zunächst von beliebiger Stelle manuell (per CMD-C) in die Zwischenablage eingelesenen Textabschnitts unter Verwendung von selbst voreingestellten Standard-Prompts (Analysiere mir diesen Arztbericht.... / Werte diesen CT-Befund aus... / Erstelle mir die Tumordokumentation basieren auf diesem Bericht...) unter Verwendung z.B. der API (also kein Aufruf via Safari o.ä.). Rückgabe des KI-generierten Texts in die Zwischenablage, von wo aus man es an beliebiger Stelle wieder einfügen kann. 1.) Ollama installieren und gewünschtes Modell herunterladenZunächst muss man einen geeigneten Rechner mit ausreichend Rechenleistung haben (in meinem Fall ein M4 MacBook mit 24GB), damit die lokale Verarbeitung des LLM auch im sinnvollen zeitlichen Rahmen bleibt. Je nach Text-Umfang kann die Auswertung bis 30 Sekunden dauern. Ollama ist quasi eine lokale Umgebung, die das problemlose Herunterladen von verschiedenen lokalen Modellen erlaubt. Ich habe für meinen Fall das jüngste Modell von OpenAI gpt-oss:20b gewählt. 2.) AppleScript für den OpenAI-API-ZugriffFolgendes AppleScript hat folgende Funktion: a.) es entfernt störende Sonderzeichen aus dem Inhalt der Zwischenablage, die sonst zu Problemen bei der Weiterverarbeitung sorgen können. b.) der Anwender wird gefragt, welcher Prompt genutzt werden soll (Auswertung Arztbrief / Auswertung CT / ....). Die Prompts müssen / können im AppleScript nach Wunsch angepasst werden.c.) der Inhalt der Zwischenablage plus der gerade ausgewählte Prompt wird an die API übergeben. Im AppleScript kann man das gewünschte LLM angeben (muss natürlich vorher lokal installiert sein).e.) die Rückmeldung der API (KI-Text-Ergebnis) wird in die Zwischenablage übertragen und ein Hinweisfenster ("Fertig!") angezeigt. Man kann den generierten Text ganz einfach mit CMD-V an der gewünschten Stelle in tomedo einfügen. Fertig. (Das AppleScript folgt aufgrund der Länge in einem Extra-Post)3.) Aktionskette mit Aufruf des obigen AppleScripts anlegen4.) Textbaustein "API) anlegenUm das AppleScript für den API-Zugriff überall aufrufen zu können, muss noch ein Textbaustein mit einer Frage "API-Anfrage: Ja/Nein?" erstellt werden. Bei Auswahl von "Ja" wird eine Aktionskette gestartet, die nichts anderes tut, als das obige AppleScript aufzurufen.4. Textbaustein (Hier: "API") an beliebiger Stelle in einem Karteieintrag platzieren5. Nutzung im Alltag: Gewünschten Text in die Zwischenablage kopieren (CMD-C), Textbaustein (hier: "API") aufrufen und gewünschten Prompt auswählen7. Rückmeldung abwarten / wenn fertig, per CMD-V an beliebiger Stelle innerhalb von tomedo einfügenFertig.

Sehr geehrter Herr Baumann, wir finden es immer toll, wenn unsere Kunden so engagiert sind und sich eigene Lösungen in tomedo selber bauen. Insbesondere die Verwendung von lokalen Large Language Modellen ist ein super Ansatz, um datenschutzkonforme Tools unabhängig von uns zu implementieren. Gleichzeitig werden wir wahrscheinlich mit der nächsten tomedo Version einen Endpunkt für die DSGVO konforme Nutztung von google Gemini zur Verfügung stellen, den Sie ebenfalls in Ihr Script einbinden können und damit auf ein leistungsfähigeres Modell zugreifen können. Mit freundlichen Grüßen Jan-Ole Finkeisen

Hier das AppleScript:-- Zwischenablage: bestimmte Sonderzeichen entfernen set patternsToRemove to {"#", quote, "“", "”", "„"} -- z.B. ## und verschiedene Anführungszeichen try -- 1) Text aus der Zwischenablage holen set t to (the clipboard as text) on error display alert "Die Zwischenablage enthält keinen Text." return end try -- 2) Jedes Muster entfernen (durch leere Zeichenkette ersetzen) repeat with p in patternsToRemove set AppleScript's text item delimiters to (p as text) set t to (text items of t) set AppleScript's text item delimiters to "" set t to (t as text) end repeat -- 3) Aufräumen & zurück in die Zwischenablage set AppleScript's text item delimiters to "" set the inputString to t ------------------------------------------------------------ -- Auswahl des Prompts -- Benutzer-Auswahl anzeigen set userChoice to choose from list {"Arztbericht", "Schlaflabor", "CT", "Gutachtenauftrag"} with prompt "Bitte eine Auswahl treffen:" default items {"Arztbericht"} -- Falls der Benutzer abbricht if userChoice is false then return end if set userChoice to item 1 of userChoice set prompt to "" -- Je nach Auswahl Text setzen if userChoice is "Arztbericht" then set auftrag to "Fasse den folgenden Arztbericht zusammen. Die erste Zeile soll wie folgt formuliert werden: Arztbericht (kurz gefasster Name der Klinik / Praxis / Einrichtung, Ort, keine Adresse), Aufenthalt von XXX - XXX bzw. am XXXX. Bilde dann Rubriken und beginne jede Rubrik in einer neuen Zeile mit dem Rubriknamen. Nach jeder Rubrik eine Leerzeile. Bilde folgende Rubriken: Diagnosen, Aufnahmeanlass, Diagnostik (kurzgefasst), Therapie, Empfehlung, auffällige Laborwerte. Benutze keine Formatierungszeichen. Stelle keine Fragen und mache keine eigenen Vorschläge für das weitere Vorgehen." else if userChoice is "Schlaflabor" then set auftrag to "Du bist Arzt-Assistent in einer pneumologischen Praxis. Du sollst lange Arztbriefe zu einer möglichst übersichtlichen und vor allem kurz gefassten Zusammenfassung verarbeiten. Hier ist ein Schlaflaborbericht auszuwerten. Beginne den Text mit der Zeile @@Schlaflabor Delmenhorst## Nenne nun kurz (beginne für jeden Ausdruck eine neue Zeile und setze @@ davor und ein ## nach der Antwort, z.B. @@ESS: 3/24##, @@ Druck: 5 mbar##): Datum der Untersuchung, Diagnosen (Text und ICD-Code), Schlafarchitektur (sehr kurz formuliert), ESS, RDI (diagnostisch), RDI (Therapie). Entnehme die folgenden Parameter aus dem letzten Absatz (Therapie/Zusammenfassung): Druck, Flex-Stufe oder Soft-PAP (nenne nur die Zahl), Warmluftbefeuchter, Rampendruck, Rampendauer, Maske, Maskengröße, Toleranz der CPAP-Therapie durch den Patienten, Empfohlenes Vorgehen: Kontrolle wo und durch wen? Nenne keine Kontaktdaten" else if userChoice is "CT" then set auftrag to "Als Pneumologe wertest Du Radiologische Befunde aus. Bilde Rubriken in der Form @@Rubrikname: Inhalt/Text##, keine Nummerierung. Wenn zu einer Rubrik keine Informationen vorliegen, schreibe nicht beschrieben, wenn zu einer Rubrik das Bestehen eines Befundes explizit verneint wird, schreibe unauffällig. Wenn das Stichwort Lokalisation in einer Rubrik genannt wird, nutze dafür nur die Begriffe links, rechts, zentral, beidseits, peripher, diffus, basal, apikal, Oberlappen, Unterlappen, Mittellappen. Rubrik: Datum (Datum der Untersuchung im Format dd.mm.yyyy). Rubrik: Praxis (nenne hier den Namen der radiologischen Praxis oder Klinik, z.B. Radiologie am St. Josef-Stift, Radiologie am RKK, Radiologie Bremen, ZEMODI, MVZ Delmenhorst, Radiologie Klinikum Bremen-Ost, Radiologie Klinikum Bremen-Mitte, Radiologie DIAKO). Rubrik: Art der Untersuchung (hier nur die Begriffe: Thorax-CT, Thorax-/Oberbauch-CT, Thorax-/Abdomen-CT, Abdomen-CT, low dose/low-dose). Rubrik: KM-Gabe (Begriffe: nativ, mit KM-Gabe). Rubrik: Klinische Angaben (hierhin alle Information, die zur Befundung vorgelegen haben). Voruntersuchung (nur das Datum der Voruntersuchung). Rubrik: Befund (Befundtext ohne Beurteilung oder klinische Angaben). Beurteilung (hier den Text der abschließenden Beurteilung). Rubrik: Emphysem (hier nur die Begriffe Empyhsem, zentroazinär, zentrilobulär, panlobulär, paraseptal verwenden). Rubrik: Fissuren (Begriffe: geschlossen, nicht geschlossen, links rechts, großer Lappenspalt, kleiner Lappenspalt). Rubrike: Pleura (Begriffe: Pleuraschwiele, Pleuraschwarte, Pleuraerguss, Pleuraverkalkung, links, rechts). Rubrik: Pneumothorax (beschreibe die Lokalisation; Begriffe: gering, ausgeprägt, gekammert, Seropneumothorax). Rubrik: Infiltrate (Begriffe: umschrieben, diffus, retikulär, interstitiell, konsolidierend, bronchiolitisch), Lokalisation. Rubrik: Lymphknoten (Begriffe: mediastinal, hilär, links, rechts, subkarinal, paraaortal, beschreibe die Größe in mm). Rubrik: Lungenrundherd (Begriffe Lungenrundherd, Lokalisation, Größe in Millimeter anwenden, solide, subsolide, verkalkt, teilweise verkalkt verwenden, wenn mehrere Rundherde beschreiben sind bitte numerieren). Rubrik: Dystelektase (setze Dystelektase und Belüftungsstörung gleich; Begriffe gering, ausgeprägt, beschreibe die Lokalisation). Rubrik Raumforderung (Begriffe: Raumforderung, links, rechts, Oberlappen, Unterlappen, Mittellappen, zentral, peripher, beschreibe die Größe in Zentimeter). Rubrik: TNM (Tumorformel gemäß TNM). Rubrik: ILD (Begriffe UIP-Muster, NSIP-Muster, Milchglastrübung, Honeycombing, Traktionsbronchiektasen verwenden, beschreibe die Lokalisation). Rubrik: Bronchitis (Begriffe Bronchialwandverdickung, mucus plugging). Rubrik: Arteriosklerose (Begriffe: Koronarsklerose). Rubrik: Pulmonalgefässe (Begriffe: Hinweis auf pulmonale Hypertonie; Lungenembolie; beschreibe die Lokalisation). Rubrik: Bronchiektasen (Begriffe: sacciform, gering, ausgeprägt; beschreibe die Lokalisation). Rubrik: Skelettsystem (alles bzgl. Skelett und Knochen). Rubrik: Sonstiges (alles, was in den obigen Rubriken nicht berücksichtigt wurde, Stichpunkte). Rubrik: Verlauf (beschreibe hier unter Verwendung der o.g. Rubrikennamen evtl. beschriebene Veränderungen; Begriffe unverändert, zunehmend, rückläufig). Rubrik: Empfehlungen (nur wenn im Text genannt, Stichpunkte)" else if userChoice is "Gutachtenauftrag" then set auftrag to "Du bist Arzt-Assistent in einer pneumologischen Praxis. Du sollst einen Begutachtungsauftrag mit vielen einzelnen Fragen im unveränderten Originaltext erfassen und in einer besonders strukturierten Form ausgeben. Achte streng darauf, dass keinerlei Änderungen am Originaltext der Fragen vorgenommen werden. Die Fragen des Gutachtenauftrags sind nummeriert. Beginne den Text mit der Zeile @@Gutachtenauftrag## Setze nun vor jede Frage @@, dann die Nummer der Frage, die Frage selbst und ein ## am Ende der Frage. Setze zwischen den Fragen eine Leerzeile." end if set prompt to auftrag & inputString -- Ausgabe zur Kontrolle display dialog "Deine Auswahl: " & userChoice & return & "Variable: " & prompt buttons {"OK"} default button 1 ---------------------------------------------- -- Übergabe an Ollama -- Python-Snippet: ruft die lokale Ollama Chat API auf (nur stdlib) set pyCode to " import os, sys, json, urllib.request, urllib.error OLLAMA_URL = 'http://localhost:11434/api/chat' MODEL = os.environ.get('USER_MODEL', 'gpt-oss:20b') prompt = os.environ.get('USER_PROMPT', '') payload = { 'model': MODEL, 'messages': [{'role': 'user', 'content': prompt}], 'stream': False } req = urllib.request.Request( OLLAMA_URL, data=json.dumps(payload).encode('utf-8'), headers={'Content-Type': 'application/json'}, method='POST' ) try: with urllib.request.urlopen(req, timeout=120) as resp: data = json.loads(resp.read().decode('utf-8')) # Ollama liefert die Antwort unter data['message']['content'] content = data.get('message', {}).get('content', '').strip() sys.stdout.write(content) except urllib.error.HTTPError as e: msg = e.read().decode('utf-8', errors='ignore') sys.stderr.write(f'HTTPError {e.code}: {msg}\\n') sys.exit(1) except Exception as e: sys.stderr.write(f'ERROR: {e}\\n') sys.exit(1) " -- Wir übergeben den Prompt sicher via Env-Var, damit kein Quoting-Ärger entsteht. set shellCmd to "/usr/bin/env /bin/zsh -lc " & quoted form of ("export USER_PROMPT=" & quoted form of prompt & "; " & "python3 -

Holy....Hit mit S... wenn das eine breite Anwendung findet...Respekt.

Hammer! Tausend Dank fürs Teilen 👍

Tolle Konfiguration - vielen Dank. Ich habe mir so eine ähnliche Variante für eine lokale KI gebaut, das dauert dann ca. 15s bis zum Ergebnis. Das spannenste daran sind aber m.M. nach die prompts. Da wäre ein Austausch sehr förderlich, denn nur mit guten prompts kommt man zu einem guten Ergebnis. Nach einem Versuch mit einer "Generalprompt" bin ich auch auf die Variante mit der Vorselektion gegangen, dass ist vom Ergebnis viel besser.

Hallo zusammen, Respekt für die Leistung! Mit der Nutzung eines lokalem LLMS oder alternativ explizit DSGVO konformen Variante kann man auch Patientendaten so verarbreiten. Mit kostenfreien und nicht DSGVO konformen LLMs kann man übrigens tomedo Konfigurationen mit LLMs erzeugen. Dazu bieten wir auch Unterstützung für Experimente an. https://support.tomedo.de/handbuch/tomedo/automatisierung/llms-als-konfigurationshelfer/ Geben Sie gern Rückmeldung wie nützlich das ist. Bei den Patientenformularen gibt es jetzt auch direkt integriert einen KI Generator. Viele Grüße, Christoph Baumbach

Hi, großartig! Danke fürs Teilen! -js

Allgemeine Information zu LLMs: Wenn es auf einem Mac laufen soll und schnell gehen soll, ist 512 GB RAM empfohlen. M-Prozessoren mit Ultra ebenfalls. Zum starten sollte um das Budget nicht zu sprengen ein Macmini mit M4Pro und 64 GB RAM und mindestens 2 TB SSD ausreichend sein.

macOS lagert gerne RAM Arbeitspeicher auf die SSD aus, wenn das RAM voll ist. Und das geht bei LLMs verdammt schnell.

Die Aussagen verstehe ich grundsätzlich (analog der alten Ami-Schlitten-V8-Regel: Hubraum ist durch nichts zu ersetzen, außer.... ...durch noch mehr Hubraum). Je nach Anwendungsfall kommt man aber schon mit sehr viel weniger Rechenpower als genannt zu praxistauglichen Ergebnissen. Eine allgemein gültige Aussage "Man braucht X GB RAM oder oder X GB SSD" kann man so nicht treffen. Ich kann für meine Situtation einen großen Sprung von M1 16 GB RAM 512GB SSD auf M4 32 GB RAM 1TB SSD erkennen.

KI-Nutzung überall in tomedo (per API) - Anleitung

Hans Jörg Baumann

Super, ich hatte schon nach DGSVO-konformen LLM-Optionen bei ionos & Co gesucht... Teure eigene Hardware nur für einige Minuten KI-Nutzung am Tag macht für mich auch keinen Sinn. Das tomedo-eigene Modell wäre somit die perfekte Lösung, wenn die Leistungsfähigkeit stimmt.

Welches Gemini-Modell soll denn zum Einsatz kommen: gemini-2.5-pro?

Ich finde es grundsätzlich gut, dass eine kostenminimierende Strategie zum Einsatz kommen soll. Je nach Nutzung und Art der Abrechnung wären $5 aber sicher kein riesig hohes Limit. Bei den vielen Anwendungsfällen, die mir gerade für diese KI-Einbindung in den Sinn kommen, könnte ich mir das Ausschöpfen des Limits schnell vorstellen. Ich für meinen Fall wäre gerne bereit, bei sinnvoller Leistungsfähigkeit des LLM auch einen höheren Betrag zu bezahlen, sobald ich das Limit "knacke", da mir ein paar Euro mehr die gesparte Arbeitszeit sicher wert ist. Ist so etwas auch angedacht oder ist man dann für den Rest des Monats gesperrt/gedrosselt? Selbstverständlich wäre es dann fair, wenn meine LLM-Kosten nicht auf andere Nutzer umgelegt werden.

Eine Nutzung der LLM-API über Aktionsketten wäre naturgemäß gleich die nächste Frage.

Eine gut und verlässlich funktionierende KI-Anbindung wird tomedo wahnsinnig voranbringen.

Jan-Ole Finkeisen

Vorerst wird es Gemin 2.5 Flash sein.
Mit Pro haben wir bisher durchwachsene Erfahrungen gemacht, da es durch das ständige "nachdenken" sehr lange dauert, bis ein Ergebnis kommt.

"Bei den vielen Anwendungsfällen, die mir gerade für diese KI-Einbindung in den Sinn kommen"
Da machen Sie mich neugierig. Darf ich fragen, was für Ideen Sie schon haben? :)

Wir können uns auch gerne allgemein über Ihre Gedanken und unsere aktuellen Pläne austauschen.
Bei Interesse können Sie gerne hier einen passenden Termin buchen: https://calendar.app.google/u99uSLedvT1D7wR2A

Hans Jörg Baumann

OK, mit dem Modell habe ich es bisher noch nicht versucht. Das lange "Nachdenken" stört tatsächlich bei GPT-5 ja auch sehr.

Hier ein paar konkrete Ideen für KI-Anwendung innerhalb von tomedo (Liste ist nicht abschließend😉):

1.) Beantwortung von Ämteranfragen (sind mindestens für die Pneumologie sehr uniform): Wie war die Lungenfunktion? Welche Medikation? Gab es Exazerbationen? usw. - Wäre hier super einsetzbar

2.) Befüllung spezieller Krankheitsentitäten-CKE, z.B. Tumordokumentation: Suche mir aus irgendeinem Arztbericht die TNM-Tumorformel, Histologie, Tumormerkmale, Therapien und lege sie in strukturierter Form ab, so dass ein CKE mit den gesuchten Informationen befüllt werden kann (ginge natürlich auch für andere Krankheitsbilder wie ILD, schweres Asthma). Aus diesem CKE ließen sich dann wieder reichlich sinnvolle Schritte herleiten wie automatisierte ICD-Favoritenbefüllung inkl. Tumorinformation.

3.) Erstellung und Übersetzung von Patientenbriefen in einfache Sprache und dann in diverse Fremdsprachen.

4.) Auswertung z.B. von externen Prick-Test-Befunden (kommen in sehr heterogener Qualität an), um strukturierte Allergie-Parameter weiterverwenden zu können (ICD-10-Code, Empfehlung / Vorschlag passender Hyposensibilisierungsoptionen, Steuerung von Allergen-spezifischen Fragebögen im Verlauf)

5.) Erstellung von "schön" formatierten Medikationspläne mit konkreten Einnahmeanweisungen (bei etlichen Medikamenten sind mehr Informationen sinnvoll als in den kleinen Feldern eingefügt werden kann).

Gerne können wir uns einmal dazu austauschen, habe mir einen Termin bei Ihnen gebucht. Evtl. gelingt ja schon ein Treffen beim AWT in Jena.

Frank Kubiak

Vielen Dank für das tolle Skript. Ich habe es gerade zum ersten Mal ausprobiert, nachdem ich alles installiert hatte!

Eine Frage habe ich dazu: Wenn das Script aufgerufen wird, erscheint bei mir ein Prompt, den ich mit OK bestätigen muss. Ist das normal? Oder muss ich nocht etwas einstellen?

Vielen Dank!

Frank Kubiak

Hans Jörg Baumann

Moin,

freut mich, wenn Ihnen das Skript weiterhilft.

Ich bin mir nicht ganz sicher, welchen Prompt Sie meinen. Da der ganze Ablauf ja einen Textbaustein als Startpunkt nutzt, der wiederum eine Aktionskette startet (also selbst erstmal keinen Text ausgibt), kommt im Rahmen des Textbausteins ein Fragedialog. Anschließend wird dann innerhalb des Appleskripts eine Dialogbox angezeigt, in der Sie den gewünschten Prompttext auswählen können. Erklärt das Ihre Frage?

Jan-Ole Finkeisen

Hallo Herr Baumann,

ich habe die Anleitung aus der Entwicklung bekommen, wie Sie unsere Modelle in Ihrem Script verwenden können:

Mistral und Gemini API via Tomedo Server aufrufen
Über den /llmservice/{userIdent}/v1/chat/completions Endpunkt am Tomedo Server lassen sich nun via einer OpenAI-kompatiblen API verschiedene LLMs von Mistral und Google Gemini unter einer Zero Data Retention Policy aufrufen.## Wie sende ich einen Request an die LLM API?
Die LLM API am Tomedo Server folgt der OpenAPI Spezifikation. Das Eingabe- und Ausgabeformat bleiben unverändert, nur die Adresse des Endpunktes ändert sich. Somit kann einfach bei existierenden Calls an Ollama durch 'http://localhost:11434/api/chat' durch http://{tomedo_server_host}:{tomedo_server_port}/{tomedo_server_db}/llmservice/{userIdent}/v1/chat/completions ersetzt werden und auf ein kompatibles Modell gewechselt werden. Weitere Änderungen am Request sind nicht nötig.
Achtung: Innerhalb des Endpunkt-Pfades muss zwingend der korrekte {userIdent} angegeben werden (siehe unten), ansonsten wird die Anfrage abgelehnt!

Wo finde ich die Adresse des Tomedo Servers?
Im Tomedo Client oben in der Menü Leiste: tomedo > Über tomedo > Server-URL (z.B. http://localhost:8080/tomedo_live/)

Woher weiß ich meinen userIdent?
Via der in Tomedo eingebauten Statistik-Abfragen kann manuell folgende Abfrage gesendet werden: select Ident from Nutzer where Kuerzel = 'MeinKuerzel'. Hier bitte das eigene Nutzerkürzel eintragen. Die zurückgegebene Zahl ist der userIdent, der im Endpunkt-URL angegeben werden muss.

Wie sieht ein vollständiges Request aus?
*Achtung*: Die Tomedo Server Adresse und der Nutzerident müssen angepasst werden!

curl "http://127.0.0.1:8080/tomedo_live/llmservice/123/v1/chat/completions" \ -H "Content-Type: application/json" \ -d '{ "model": "gemini-2.5-flash", "messages": {"role": "user", "content": "Dies ist ein Beispiel."} }'

Welche Modelle werden unterstützt?
- Mistral
- mistral-medium-latest
- mistral-medium-2508
- mistral-medium-2505
- mistral-small-latest
- mistral-small-2506
- mistral-small-2503
- mistral-small-2501
- Google Gemini
- gemini-2.5-pro
- gemini-2.5-flash
- gemini-2.5-flash-lite

Sagen Sie gerne bescheid, sollten Sie dabei Unterstützung benötigen.

Friedemann Klemenz

Funktioniert - vielen Dank!

Welches Model ist aktuell im chat eingestellt? Mir scheint die API Laufzeit langsamer für gemini-2.5-flash als im chat?

Jan-Ole Finkeisen

Super!

Im Chat kommt es darauf an, ob Sie die Checkbox bei "experimentelle features" anghakt haben.
Wenn an, wird 2.5-flash verwendet, ansonsten noch Mistral.

Christopher Hahn

Kurze blöde Frage, das läuft dann alles lokal? DSGVO konform?

Mateusz Koralewski

unter einer Zero Data Retention Policy.

Zustimmung muss wohl eingeholt werden. Keine Ahnung ob das unter Behandlungsvwrtrag fällt.

Hans Jörg Baumann

Super, das ist eine Riesen-Erleichterung und eröffnet nun wirklich viele Optionen insbesondere zur vollautomatisierten KI-Auswertung.

Raphael Weißgerber

Super! Danke

Raphael Weißgerber

Lieber Herr Baumann,

Ihr Wissen und Ehrgeiz sind wirklich bewundernswert. Ich würde gerne tatsächlich Ihr Apple Script mit den Tomedo Helferlein vereinen. Mir fehlt aber die Kompetetenz die Infos von Herrn Finkeisen mit Ihrem Skript zu vereinen. Ihr Kommentar vom 20.10 suggeriert, dass Sie das schon umgesetzt haben. Wären Sie vielleicht so freundlich und würden das angepasste Skript nochmal posten? Ich würde damit meinem langjährigen Wunsch näher kommen, die Versorgungsamtfragen zu katalogisieren und automatisiert zu beantworten. Aufgrund der DSGVO muss es natürlich lokal passieren. Bis jetzt sind meine ersten Versuche mit lokalen LLM aufgrund der Performance gescheitert. Eine Idee wäre ja auch die Anonymisierung vor der Befütterung durch ein Python Skript und dann der Upload auf den OPenAI Server. Viele Grüße und weiter so!

Jan-Ole Finkeisen

Hallo Herr Weißgerber,

ich kann Ihnen die Scripte leider nicht zusammenbringen.

Aber ich wollte auf den Datenschutz Teil warten.
Unsere Modelle sind nicht lokal. Statdessen haben wir einen zero data retention Vertrag + Hosting in der EU mit den Modellbetreibern (Mistral und Google). Entsprechend braucht es keine Anonymisierung und Sie können die Modelle DSGVO konform nutzen. Ggf. müssen Sie Ihre Patienten über den Einsatz informieren. Dabei muss ich aber auf Ihren Datenschutzbeauftragten verweisen.

Viele Grüße
Jan-Ole Finkeisen

Hans Jörg Baumann

Moin, Herr Weißgerber,

das Anonymisieren vor Übertrag einer KI-Anfrage mit patientenbezogenen Daten in ein externes LLM wie OpenAI ist aus DSGVO-Sicht nicht ausreichend (war auch mein erster Ansatz, juristisch aber nicht korrekt). Lokales LLM (z.B. via Ollama wie oben gezeigt) erfordert ausreichend Hardware, lief bei mir erst mit M4 MacBook Air mit 32 GB RAM. Daher ist es ja so gut, dass nun innerhalb von tomedo der KI-Service existiert.

Ich habe Ihnen in einem neuen Thread eine Anleitung erstellt, wie Sie das Skript nutzen können: /d/109465

Boris Weber

Hallo Herr Baumbach,

ich würde gerne den KI Generator für Patientenformulare testen. Habe mir auch das YouTube Video angesehen. Ich finde bei mir aber nicht die Beta Funktion im AZD Dashboard. Muss ich das beantragen?

LG Boris Weber

Christoph Baumbach

Hallo Herr Weber,

das geht leider noch nicht so wie im Video, das ist im Moment nur für zollsoft Mitarbeiter freigeschaltet. Aber Sie können vom Handbuch die Kontextdatei herunterladen und diese einfach in ein LLM ziehen und dort reinschreiben, was sie für ein Patientenformular haben wollen oder ein PDF was Sie umwandeln wollen, reinziehen. Dann kopieren Sie das ergebnis einfach in den JSON Tab eines neuen Patientenformulars. Das geht genauso gut wie der Generator.

Viele Grüße,

Christoph Baumbach

Boris Weber

Hallo Herr Baumbach, danke für die schnelle Antwort. Es wäre dann nicht schlecht, wenn man das YouTube Video wieder entfernen würde, das mich mich viel Zeit gekostet.

Ich habe das mit dem Import in den JSON Tab versucht. Das Formular lässt sich auch in der Vorschau problemlos ausfüllen, lässt sich aber nicht richtig speichern. Ich habe aber keine Fehlermeldung.

Hier mal der eine Kopie:

{"title":{"de":"Infekt-Fragebogen (Kinder)","en":"Infection Questionnaire (Children)"},"description":{"de":"Triage-Fragebogen bei Infekten der Atemwege und des Magen-Darm-Trakts. Bitte sorgfältig ausfüllen.","en":"Triage questionnaire for respiratory and gastrointestinal infections. Please complete carefully."},"completedHtml":{"de":"

Vielen Dank!

Ihr Formular wurde übermittelt.

","en":"

Thank you!

Your form has been submitted.

"},"pages":[{"name":"page_intro","title":{"de":"Hinweise","en":"Information"},"elements":[{"type":"html","name":"intro_html","html":{"de":"

Dieser Fragebogen hilft uns, die Situation Ihres Kindes besser einzuschätzen. Bei akuter schwerer Atemnot rufen Sie bitte den Notruf (112).

","en":"

This questionnaire helps us assess your child's situation. In case of severe acute breathing difficulties, please call emergency services (112).

"}}]},{"name":"page_child_contact","title":{"de":"Kind & Kontakt","en":"Child & Contact"},"elements":[{"type":"text","name":"child_name","title":{"de":"Name des Kindes","en":"Child's name"},"isRequired":true},{"type":"text","name":"child_dob","title":{"de":"Geburtsdatum","en":"Date of birth"},"inputType":"date","isRequired":true},{"type":"text","name":"callback_phone","title":{"de":"Rückrufnummer","en":"Callback phone number"},"inputType":"custom-phone-number","isRequired":true}]},{"name":"page_symptoms","title":{"de":"Beschwerden (letzte 7 Tage)","en":"Symptoms (past 7 days)"},"elements":[{"type":"boolean","name":"dyspnea_at_rest","title":{"de":"Akute Luftnot – in Ruhe","en":"Acute shortness of breath – at rest"}},{"type":"boolean","name":"dyspnea_on_exertion","title":{"de":"Akute Luftnot – bei Belastung","en":"Acute shortness of breath – on exertion"}},{"type":"boolean","name":"fever","title":{"de":"Fieber","en":"Fever"}},{"type":"text","name":"fever_max_temp","title":{"de":"Max. Temperatur (°C)","en":"Max temperature (°C)"},"inputType":"custom-number","visibleIf":"{fever} = true"},{"type":"radiogroup","name":"fever_continuous","title":{"de":"Fieber durchgängig seit Beginn?","en":"Continuous fever since onset?"},"visibleIf":"{fever} = true","choices":[{"value":"yes","text":{"de":"Ja","en":"Yes"}},{"value":"no","text":{"de":"Nein","en":"No"}}]},{"type":"text","name":"fever_today","title":{"de":"Temperatur heute (°C)","en":"Temperature today (°C)"},"inputType":"custom-number","visibleIf":"{fever} = true"},{"type":"boolean","name":"fatigue","title":{"de":"Ausgeprägte Abgeschlagenheit","en":"Pronounced fatigue"}},{"type":"boolean","name":"cough","title":{"de":"Husten","en":"Cough"}},{"type":"boolean","name":"rhinitis","title":{"de":"Schnupfen","en":"Runny/stuffy nose"}},{"type":"boolean","name":"sore_throat","title":{"de":"Halsschmerzen/-kratzen","en":"Sore/scratchy throat"}},{"type":"boolean","name":"myalgia","title":{"de":"Gliederschmerzen","en":"Body aches"}},{"type":"boolean","name":"headache","title":{"de":"Kopfschmerzen","en":"Headache"}},{"type":"boolean","name":"vomiting","title":{"de":"Erbrechen","en":"Vomiting"}},{"type":"text","name":"vomiting_frequency","title":{"de":"Erbrechen: Wie oft pro Tag?","en":"Vomiting: how many times/day?"},"visibleIf":"{vomiting} = true","inputType":"custom-number"},{"type":"text","name":"vomiting_last_time","title":{"de":"Erbrechen: Wann zuletzt?","en":"Vomiting: when last?"},"visibleIf":"{vomiting} = true"},{"type":"boolean","name":"diarrhea","title":{"de":"Durchfall","en":"Diarrhea"}},{"type":"boolean","name":"rash","title":{"de":"Ausschlag","en":"Rash"}},{"type":"boolean","name":"ear_pain","title":{"de":"Ohrenschmerzen","en":"Ear pain"}},{"type":"boolean","name":"conjunctivitis","title":{"de":"Bindehautentzündung","en":"Conjunctivitis"}},{"type":"comment","name":"symptom_notes","title":{"de":"Beschreibung/Notizen (optional)","en":"Description/notes (optional)"},"rows":3}]},{"name":"page_history","title":{"de":"Weitere Anamnese","en":"Further history"},"elements":[{"type":"radiogroup","name":"in_school","title":{"de":"Ist/war Ihr Kind in Kita/Schule?","en":"Is/was your child in daycare/school?"},"choices":[{"value":"yes","text":{"de":"Ja","en":"Yes"}},{"value":"no","text":{"de":"Nein","en":"No"}}]},{"type":"text","name":"in_school_last","title":{"de":"Wenn ja: Wann zuletzt?","en":"If yes: when last?"},"visibleIf":"{in_school} = 'yes'"},{"type":"radiogroup","name":"covid_test_done","title":{"de":"Covid-19-Schnelltest beim Kind erfolgt?","en":"Has a COVID-19 rapid test been performed on the child?"},"choices":[{"value":"yes","text":{"de":"Ja","en":"Yes"}},{"value":"no","text":{"de":"Nein","en":"No"}}]},{"type":"text","name":"covid_test_date","title":{"de":"Wenn ja: Datum des Tests","en":"If yes: test date"},"inputType":"date","visibleIf":"{covid_test_done} = 'yes'"},{"type":"radiogroup","name":"covid_result","title":{"de":"Ergebnis des Tests","en":"Test result"},"visibleIf":"{covid_test_done} = 'yes'","choices":[{"value":"positive","text":{"de":"Positiv","en":"Positive"}},{"value":"negative","text":{"de":"Negativ","en":"Negative"}}]},{"type":"radiogroup","name":"family_sick","title":{"de":"Ist in der Familie aktuell jemand krank?","en":"Is anyone in the household currently ill?"},"choices":[{"value":"yes","text":{"de":"Ja","en":"Yes"}},{"value":"no","text":{"de":"Nein","en":"No"}}]},{"type":"comment","name":"family_sick_details","title":{"de":"Wenn ja: Wer, wann, was?","en":"If yes: who, when, what?"},"rows":3,"visibleIf":"{family_sick} = 'yes'"},{"type":"comment","name":"additional_notes","title":{"de":"Weitere Bemerkungen (optional)","en":"Additional remarks (optional)"},"rows":3}]},{"name":"page_signature","title":{"de":"Bestätigung & Unterschrift","en":"Confirmation & Signature"},"elements":[{"type":"boolean","name":"confirm_truth","title":{"de":"Ich bestätige die Richtigkeit der Angaben.","en":"I confirm that the information provided is accurate."},"isRequired":true},{"type":"text","name":"form_date","title":{"de":"Datum","en":"Date"},"inputType":"date","isRequired":true},{"type":"signaturepad","name":"signature","title":{"de":"Unterschrift","en":"Signature"},"isRequired":true}]}]}

MFG Boris Weber

Christian Klaproth

Die Kontextdateien helfen tatsächlich KI so einzusetzen, dass einem brauchbare Ergebnisse geliefert werden.

Habe damit experimentiert. Für die meisten Nutzer dürfte das völlig ausreichen. Wenn es aber ans eingemachte geht mit Scores und dergleichen und bedingten Gruppen und Vorbefüllung der Felder kommt man damit schnell an doie Grenzen der KI.
Wenn es also richtig gut werden soll, muß man aber schon selbst tätig werden und kann die von der KI gelieferten Ergebnisse als Vorlage nutzen. Allein damit hätte ich mir gerade am Anfang unendlich viel Zeit ersparen können.

Raphael Weißgerber

Hallo!

Ich möchte noch auf die Möglichkeiten von Visual Studio Code hinweisen. Man kann hier Codex und Continue integrieren. Es besteht dann die Möglichkeit, eigene GPT von ChatGPT, zb. Tomedo Automatisierungen, zu integrieren. Wenn man die Tomedo Kontextdateien hinterlegt, kann man beispielsweise CKE oder Patientenformulare in Windeseile herstellen, inkl Briefkommandos. Mann kann auch TXT Dateien an Ollama übergeben.

« Vorherige Seite Nächste Seite »