Tomedo und Künstliche Intelligenz - ist bereits jetzt schon möglich - wann kommt das in Tomedo

Question

Liebe Tomedo Anwender,

seit nunmehr vier Jahren nutze ich die Tomedo-Software und habe mich im laufe der Zeit mit deren Funktionalität vertraut gemacht. Nun ist es mir gelungen, Tomedo mit Künstlicher Intelligenz (KI) zu verknüpfen, was den Praxisworkflow optimiert.

Das Thema nimmt rasant Fahrt auf, in den USA werden wie der Artikel zeigt, auch schon Roboter mit entsprechender KI eingesetzt.

https://www.coliquio.de/wissen/dermatologie-102/-was-wenn-KI-besser-als-aerztInnen?ab_title=1&uac=422081AX&ecd=wnl_all_240608_coliquio_dn&sso=true&ab_flow=dnv3&utm_medium=email&utm_source=ta&utm_campaign=dn

 

Durch geschickte Kombination von Aktionskettenauslösern und intelligenten, kaskadenartig ineinandergreifenden Aktionsketten ist es bereits jetzt schon mit Tomedo möglich, eigene und importierte Inhalte wie E-Mails, Faxe und Papierdokumente automatisiert im Kontext auszuwerten und direkt in Tomedo zu integrieren. Der Datenimport ist sogar bei Bearbeitung der Vidierliste möglich, ich habe mir dafür entsprechende Sripts gebaut.

Datenimport : https://www.dropbox.com/scl/fi/ix0hgotoyxvsb5hj3batn/Datenimport-2024-06-01.mov?rlkey=zfpttyl7rv4mmo7uh3nu1wm1n&st=0qlqppg6&dl=0

Auch der Export in die KI mit entsprechender Datenrecherche funktioniert reibungslos und entspricht den DSGVO-Richtlinien, da keine personenbezogenen Daten außerhalb von Tomedo gelangen, wenn entsprechende Skripte diese Aufgabe der Anonymisierung übernehmen. Die Vorschau APP anaonymisiert bereits beim Scannen die personenbezogenen Daten wie Namen und Adresse.

Datenexport: https://www.dropbox.com/scl/fi/aq0ywe2utlzfzamqemwbp/Datenexport-2024-06-01-um.mov?rlkey=4xp69wmlgssdudc8ff60knrgo&st=9n4z8p9m&dl=0

Tomedo sollte durch Implementierung dieser Funktionen eine führende Position auf dem Markt der Praxissoftware einnehmen. Ich zeige mit den verlinkten Videos welche Möglichkeiten sich schon jetzt für jeden Tomedo Anwender damit bieten.

Viele Nutzer wünschen sich eine solche Anwendung als Arbeitserleichterung. Die Integration in Tomedo durch jeden einzelnen Kollegen wäre aufgrund der anspruchsvollen Konfigurationsarbeit nicht praktikabel; sondern sollte vielmehr als Template von Zollsoft zur Verfügung gestellt werden.

Ich bin sehr zuversichtlich, dass Tomedo dafür in absehbarer Zeit eine praktikable Lösung anbieten wird.

Neben dem Vorteil für Zollsoft hätten alle Anwender eine immense Zeitersparnis und Effizienzsteigerung. Sämtliche Fremdbefunde können in kompakter Form ausgewertet und übersichtlich in die Patientenkartei integriert werden, bevor der eigentliche Arzt-Patienten-Kontakt stattfindet. In Verbindung mit den eigenen Befunden lassen sich auch Recherchen effizient durchführen. Sowohl nicht-ärztliche als auch ärztliche Mitarbeiter können ihre Fähigkeiten ausbauen und einander effektiv zuarbeiten.

KI wird in naher Zukunft viele Arbeiten für uns verrichten aber auch manchen Arbeitsplatz überflüssig machen. Zudem besteht die Gefahr der Verdummung der breiten Masse. Die Überwachung unserer Arbeit durch Fachfremde wird erleichtert, denen damit das Gefühl gegeben wird etwas von der Sache zu verstehen und ihre Macht missbrauchen können und wir Gefahr laufen uns ständig für unser Handeln rechtfertigen zu müssen, weil die KI was anderes vorgibt. Deshalb grosse Vorsicht, welche Daten man weitergibt.

Comments

das sieht ja wahnsinnig gut aus! Ich bewundere sowieso Ihre Effizienz und Ihr Können im Bezug auf Aktionsketten, CKE und KI. Gefühlt schaffe ich es da nur, herumzustolpern. Ein Tutorial seitens tomedo wäre da toll!

---

Hallo,

 

Nach ich die WWDC Keynote gesehen habe, bin ich wirklich gespannt, was Zollsoft da möglich machen wird...ein Großteil soll ja on device laufen, damit wäre das Datenschutzproblem gelöst. Auch wird die Positionierung der Datenschützer interessant, was die Apple eigenen cloudbasierte KI angeht, die sich mit besonderen "privacy" Eigenschaften von den anderen Anbietern abheben will....

Answer 1

Moin Herr Klaproth,

sehr beeindruckend. Ich arbeite selbst mit vielen CKE und Aktionsketten. Bislang kopiere ich die Befunde händisch- sehr zeitaufwendig. Nach Import starten dann Aktionsketten, in denen nach bestimmten Schlagwörtern, z.B. Diabetes, etc. gesuchtund dann automatisiert geziffert wird. Aber wie haben sie den anonymisierten Datentransfer zu Chat GPT umgesetzt?

LG Mario Koopmann

Comments

Habe dafür eine Apple Skript:

set findNachname to "$[pn]$"
set findVorname to "$[pv]$"

set inputString to the clipboard as text

on applySedPattern(inputString, pattern)
    return do shell script "echo " & quoted form of inputString & " | sed " & quoted form of pattern
end applySedPattern

set regexPattern to "s/" & "\\(" & findNachname & "\\)/\\$[bisZeichen 1 pn]$./Ig"
set inputString to applySedPattern(inputString, regexPattern)

set regexPattern to "s/" & "\\(" & findVorname & "\\)/\\$[bisZeichen 1 pv]$./Ig"
set inputString to applySedPattern(inputString, regexPattern)

set response to result as text

set the clipboard to response as text

Answer 2

ChatGPT mit streng formuliertem Prompt in Kombination mit regex-befüllten CKE erlaubt es, sehr konkrete Informationen aus unstrukturiertem Text zu extrahieren. Ich demonstriere das mal am Beispiel eines Schlaflaborbriefes, von denen ich viele bekomme. Ich extrahiere daraus Diagnosen, Befund, CPAP-Geräteparameter und das empfohlene Procedere.

Brief als PDF wird ähnlich wie bei Herrn Klaproth per AppleScript an ChatGPT geschickt. Hier die Quelle:

Der Prompt muss sehr detaillierte Vorgaben machen, damit ChatGPT nicht zu sehr "fabuliert". 

Das Ergebnis wird per AppleScript in die Zwischenablage gegeben und dann in einen Karteieintrag der Wahl geschrieben:

Mittels Regex kann man dann die in strukturierter Form von ChatGPT ausgegebene Information einsammeln und in die passenden CKE-Felder verteilen.

Die Informationen kommen so mit wenigen Klicks aus dem Brief in das CKE, wo sie dann für weitere Zwecke gezielt abgefragt werden können.

Auch das strukturierte Auswerten von CT-Befunden, die ja oftmals unübersichtlicher Fließtext sind, geht so wunderbar. Hier ein Ergebnis, welches nach obigen Schema einen CT-Befund nach den eigenen Anforderungen auswertet. Nebenbei korrigiert ChatGPT dabei noch Tippfehler der Radiologen und korrigiert Buchstabensalat (wie er manchmal beim Übertragen von Text aus PDF per CMD-A/CMD-C entsteht, aus "CTd e sThorax" wird dann korrekt "Thorax-CT"):

Ergebnis im CKE:

Comments

Hallo Hans Jörg,

prima Beispiel, wenn man Informationen gefiltert in bestimmte Karteieinträge übernehmen möchte um die weiter zu verarbeiten.

Ich tue mich mit Regex etwas schwer. Ich habe keine Sonderzeichen zur Identifikation der jeweiligen Textextrakte gemacht.

Mit folgendem Befehl

$[regex (?<=MRT)(.*) x FBK 1 _ 0-1 NN NNNN NNNN _ K 0]$

möchte ich den gesamten Text nach dem Begriff MRT im heutigen Karteieintrag FBK übernehmen. Klappt aber nicht, wenn ich das im Editor von Tomedo eingebe. Woran kann das liegen?

---

Wenn der Karteieintrag MRT so aussieht: 

05.06.2024: 
MRT Hier steht der MRT-Befund

ergibt der regex:
$[regex MRT\s+(.+) x N 1 _ _ NJ NJ2N NJNN _ U _]$

diesen Text

Hier steht der MRT-Befund

---

Komisch, bei mir klappt es nicht. Der Karteieintrag heiß FBK

$[regex MRT\s+(.+) x FBK 1 _ _ NJ NJ2N NJNN _ U _]$

 

damit hätte es auch klappen müssen:

$[regex (?<=MRT)(.*) x FBK 1 _ 0-1 NN NNNN NNNN _ K 0]$
 

---

Hallo Christian,

was klappt denn genau nicht? Wie sieht der Text exakt aus?

---

Trotz angelegtem Karteieintrag wird kein Text ausgeworfen.

Answer 3

Hi,

 

habe mir die Videos angeschaut, sehr coole Sache! Und maximalen Respekt vor dem Aufwand und der Programmierung!

Ich hoffe sehr, dass Zollsoft so ein feature von Zollsoft niedrigschwellig zu Verfügung gestellt wird. Diese Lösung ist ja nicht einfach zu übernehmen, da sie so individuell auf die eigenen Abläufe zugeschnitten ist...

Für die Zukunft sollte eine Export von Karteieinträgen (Text/Bild/Video) an externe Programme sowie der Import so leicht wie möglich gemacht werden, damit man sich das Gefrickel mit Appleskript etc. sparen kann. Das sind ja am Ende alles Workarounds...

Und super wären auch ausfürhliche Tutorials (CKE, CF, AK) in Tomedo campus, am besten mit Beipsielen von Nutzern, um auch Ideen für eigene Arbeitserleicherung zu sammeln. Die technische Umsetzung ist ein Aspekt, aber das wichtigste ist der Austausch mit anderen Nutzern, um auf Ideen zu kommen...

-js

Comments

Kommen Sie gern bei Fragen auf mich zu. Gerade der Austausch inspiriert und gibt einem Anreize was alle möglich ist.

Bin auch gespannt auf die Erfahrungen mit Pepper. Da bekommen Sie auch angebunden an Tomedo sicherlich ein ganz tolle Sache. Werde mir den Robozter auf jeden Fall auch mal zur Probe stellen. In einer Gemeinschaftspraxis oder einem MVZ amortisiert sich der sicher eher als in einer kleinen Einzelpraxis wie bei mir.

Answer 4

Hallo zusammen,

 

Bitte entschuldigen Sie die Verzögerung, mit der wir hier antworten. Das Thema KI und insbesondere auch Large Language Models (LLMs) im medizinischen Bereich ist recht heikel, weswegen wir uns hier sehr genau Gedanken machen, was wir wie umsetzen können ohne gegen geltendes Recht zu verstoßen. Wie z.B. auch hier (https://forum.tomedo.de/index.php/83009/ki-helferlein) schon erläutert, gibt es prinzipiell zwei Problematiken, die man berücksichtigen muss:

 

1.) Datenschutz

2.) KI im medizinischen Kontext

 

1.) Datenschutz

Aktuell sind wir noch auf dritte angewiesen, die die LLMs für uns hosten, der bekannteste ist sicherlich openAI mit GPT. Hier stellt sich die Frage, was personenbezogene Daten eigentlich sind. Dazu haben wir den Thüringer Landesbeauftragten für den Datenschutz und die Informationssicherheit befragt. Nach seiner Aussage sind auch pseudonymisierte Daten, mit denen man vergleichsweise einfach Rückschlüsse auf konkrete Personen ziehen kann, datenschutzrechtlich relevante Daten. Das ist insbesondere dann gegeben, wenn z.B. ein Login in einen Service notwendig ist, da sich damit der Personenkreis auf den Kundenstamm (oder Patientenstamm) des Nutzers reduziert. Über Alter, Geschlecht, Gewicht usw. ließe sich so vergleichsweise einfach die konkrete Person ermitteln. Wir müssen hier also sehr genau aufpassen, wie wir Daten anonymisieren. Das Filtern von Patientennamen reicht hier nicht aus. Außerdem bezieht sich Datenschutz nicht nur auf Patientendaten, sondern auf alle personenbezogenen Daten. Informationen über Behandler, andere Praxen usw. müssen also genauso anonymisiert werden.

 

2.) KI im medizinischen Kontext

Hier müssen wir aufpassen, dass wir nicht unter die Regelungen eines Medizinproduktes fallen. Das ist insbesondere immer dann gegeben, wenn Diagnosen oder Behandlungswege vorgeschlagen werden. Im Falle von LLMs besteht die Problematik von Halluzinationen, auch wenn diese immer weniger werden. Das bedeutet, dass selbst im Falle einer einfachen Zusammenfassung das LLM zusätzliche Informationen erfindet, die ggf. medizinisch irreführend sind.

 

Diese Aspekte berücksichtigend werden wir entsprechende Funktionen in tomedo einbauen, z.B. auch die hier vorgeschlagenen zum Import und Export von Daten in tomedo. Wir denken hier z.B. auch darüber nach, alternative LLMs selber zu hosten. Der Import und Export von Daten sollte außerdem in tomedo immer noch mal überprüft werden können. Hier stellen wir uns eine Unterstützungsfunktion vor, mit der entsprechende Textpassagen schnell ihrer Quelle zugeordnet werden können.

Comments

Hallo Herr Preuß,

Das sind ja sehr steile Aussagen des Datenschützers aus Thüringen! Offenbar kann man über mich als eingeloggten Nutzer (irgendeine Mailadresse) Rückschlüsse auf mich als Betrieb ziehen und schon gar darauf, wer bei mir jemals behandelt wurde. Ja klar, in einer Welt mit bald 10 Milliarden Menschen ist es natürlich ein Kinderspiel, jemanden anhand von Größe oder Gewicht zu identifizieren. Mit solchen Datenschutz-Argumenten kann man wirklich jeden ausbremsen - bravo!

Da sehe ich doch glatt schwarz für die vorteilhafte Verknüpfung von KI und medizinischen Fragestellungen. Glücklicherweise habe ich mein funktionierendes System. Das kann sich jeder Interessierte mit viel Aufwand selbst schaffen - ein Klacks, nicht wahr? Dass KI-Systeme auch lokal laufen können, ist bestimmt ein streng gehütetes Geheimnis der Datenschützer.

Katastrophal wäre es wenn nur allein die Möglichkeit das tolle Tomedo mit KI zu verknüpfen gleich ein Medizinprodukt daraus werden läßt. Da wissen wir alle wo das hin führt - das wird dann vielleicht in 10 Jahren was. Wir sehen ja wie lange am eRezept von den Giganten der Telematik gebastelt wurde, bis man es auf die Ärzteschaft loslassen konnte..

Wenn wir der Logik der Datenschützer folgen, müsste jede Online-Literaturrecherche oder Zuhilfenahme irgendwelcher online verfügbarer Leitlinien ebenfalls unter das Medizinproduktegesetz fallen. Na, dann mal Prost auf die Bürokratie!

Mit satirischen Grüßen,

Christian Klaproth

---

Das habe ich dazu gefunden:

Nach deutschem Recht und den Regelungen der Europäischen Union kann eine Software, die medizinische Daten analysiert, als Medizinprodukt eingestuft werden. Dies hängt von der genauen Funktion und dem Einsatzbereich der Software ab. Die Einstufung basiert auf der Medical Device Regulation (MDR), die seit dem 26. Mai 2021 gilt und die frühere Medical Device Directive (MDD) ersetzt hat.
Eine Software wird als Medizinprodukt klassifiziert, wenn sie folgende Kriterien erfüllt:
1. Diagnose, Prävention, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten.
2. Diagnose, Überwachung, Behandlung, Linderung oder Kompensation von Verletzungen oder Behinderungen.
3. Untersuchung, Ersatz oder Veränderung des anatomischen Aufbaus oder eines physiologischen Vorgangs
4. Empfängnisregelung.

Ich kann hier nirgendwo erkenn, dass die Software irgendwelche Diagnosen stellt oder Therapien einleitet, genau so wie sie selbsttätig Untersuchungen durchführt oder die Empfängnis verhüten hilft.

Administrative Systeme, die zur Verwaltung von Patientendaten verwendet werden, fallen nicht unter diese Regelung, solange sie nicht direkt in den medizinischen Entscheidungsprozess eingreifen.

KI unterstützt und hilft, eine Entscheidung durch den verantwortlichen Arzt zu treffen. Da haben aber vile Menschen Angst, denn dadurch werden sie überflüssig, ich denke nur an vielen SOFA`s bei den Karnbken Kassen. Die werden dann aber mittels KI unsere Entscheidungen überprüfen und Stellungnahmen einfordern zur Begründung unserer entscheidungen. Deshalb bin ich auch dafür so wenig Daten wie möglich in andere Hände zu leiten.

---

Sehr geehrter Herr Klaproth

ich würde Sie bitten die Videos aus dem Netz zu nehmen. Wenn Sie die Daten des Roten Briefes an ChatGPT schicken muss ihnen klar sein das das Unternehmen jetzt die Informationen zu dem Patienten mit der Adresse in dem Brief (für mich sieht das Haus bei Streetview nach einem Einfamilienhaus aus womit ziemlich klar sein sollte wer der Patient ist) hat und auch die 3 aufgeführten Diagnosen.

---

Hallo Herr Thierfelder,

vielen Dank für den Tipp. Bei der Herstellung des Videos habe ich peinlich darauf geachtet, keine personenbezogenen Daten zu veröffentlichen.  

Über Streetview sind die rechts eingeblendeten Adressdaten allgemein verfügbar. Dabei handelt es sich eine Ferienwohnung bzw. Ferienhaus. Die medizinischen Daten haben damit rein gar nicht zu tun. Die stammen von einer Person, die außerhalb des Kreises wohnt. Bereits beim einscannen des 8-Seiten Klinikberichts wurden alle personenbezogenen Daten verfremdet und eine Mischung aus Vor- Nachnamen und Adresse erzeugt.  Das hat die Scansoftware auf wundersame Weise schon selbst gemacht. Ich war deswegen auch selbst erstaunt. Da kann wirklich niemand auf irgendwelche reale Personen rückschließen.

Im anderen  Fall musste ich reale Personendaten schwärzen, weil hier mein Skript zur Chiffrierung des Patientennamen nicht auslösen konnte, weil der reale Name vom Fake Namen abwich. Die Kartei habe ich im Übrigen nur für diese Zwecke erstellt. Sie erhält nur hinsichtlich der importierten Daten medizinische Fakten, die aber keiner Person noch irgend einer Adresse zugeordnet werden können.

Ich bin sicher, hier nicht gegen Bestimmungen der DSGVO verstoßen zu haben. Klinikdaten und Ärzte sind allgemein im Netz erkennbar und bekannt.

---

Sehr geehrter Herr Klaproth,

Ich bin hier voll bei Ihnen und unterstütze die Regulierungswut in diesem Ausmaß definitiv nicht. Aber zu diesem Thema habe ich mich auch mit unseren Kollegen aus dem Qualitätsmanagement ausgetauscht, die sich nur um solche Fragen - Fragen was ein Medizinprodukt ausmacht - beschäftigen. Wie oben beschrieben können und werden wir so etwas umsetzen, aber wir werden eben sehr genau darüber nachdenken (müssen), wie genau, damit wir nicht in diese Regulierungen rutschen, ohne es zu wollen.

---

Zum Thema KI und DGSVO gibt es einen sehr informativen Podcast (von heise: Auslegungssache). 

https://podcasts.apple.com/de/podcast/auslegungssache-der-ct-datenschutz-podcast/id1485860893?i=1000655878544

Der Podcast diskutiert die "Orientierungshilfe der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder vom 6. Mai 2024 - Künstliche Intelligenz und Datenschutz Version 1.0" 

https://datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf. 

Conclusion des Podcasts: DSGVO passt von ihrem Regelwerk nicht mehr zur heutigen Realität der KI-Welt und müsste eingentlich angepasst werden, was politisch kaum vorstellbar ist. Orientierungshilfe kann also eigentlich nicht umgesetzt werden. Hmmm.

---

Hallo Herr Preuß,

Ich beneide Sie nicht darum und verstehe, dass Zollsoft allergrößte Vorsicht walten lassen muß. Dagegen habe ich es als Nutzer einfacher. Die Tomedo Nutzer erwarten so etwas bzw. werden es zu schätzen wissen, wenn Sie solch ein Tool erhalten. Tomedo würde damit eine absolute Vorreiterolle einnehmen.

Für meine Bedürfnisse habe ich bereits viel erreicht und profitiere von der enormen Arbeitserleichterung. Dennoch habe ich an einer Stelle Schwierigkeiten den Prozess zu automatisieren und wünschte mir da die Unterstützung durch erfahrene Tomedo Entwickler, die sich dieses klitzekleinen Problems annehmen  könnten. Im Video habe ich das angesprochen. Beim vidieren kann ich das pdf Dokument nicht in den Fokus bekommen, um die Kopierbefehle auszuführen, dass muss ich händisch machen. Beim erstmaligen Datenimport, wenn meine MFA das machen, klappt das dagegen vollautomatisch. Nur haben die nicht immer Zeit und legen das Dokument einfach in die Kartei. Dann muss ich das über den Vidiervorgang auswerten und da hakt es mit der Automatisierung.

Vielleicht kann mir ein Entwickler mal auf die Sprünge helfen.

---

# Hans Jörg

Omg,

Der dauert ja mehr als eine Stunde und fängt schon extrem langatmig an.

---

Ja, ist wirklich schwere Kost. Am Ende ist man, da alle Fragen offen bleiben, auch dank der Orientierungshilfe orientierungslos.

---

Hi,

noch ein andere Aspekt: Datenschutz kann Menschen ja auch schädigen. Gerade im medizinischen Kontext: das _Verhindern_ von dem Einsatz von moderner IT-Technologien am Patienten durch den Datenschutz bzw. deren Interpretation durch die Datenschützer kann sicherlich auch zum Schaden führen. Dieser Aspekt wird aber bei der Abwägung gar nicht berücksichtigt. Es wird seitens der Datenschützer erst mal unterstellt, dass mit den Daten Unfug getrieben wird.

Am Ende wird es auf meiner Meinung nach einen Betrieb eines lokalen LLM hinauslaufen. Die Hardwareanforderungen sind bei einer niedrigen Nutzerzahl gar nicht so gewaltigt, wir werden uns dafür kein NVIDIA-Chip kaufen müssen :-)

Answer 5

Enorm. Impressing. Das möchte ich lernen.