BriMa
Liebe Kolleginnen und Kollegen,
Wenn ich die Vorschrift richtig verstehe, wird man mit Einsatz der ki Funktionen in tomedo zum Betreiber und unterliegt den Regeln des EU AI Act. Damit müssen KI Kompetenzen Nachgewiesen werden. Wie macht ihr das in euren Teams?
LG BM
Johannes Stößel
Worauf beziehen Sie sich denn? Haben Sie eine Quelle?
BriMa
Johannes Stößel
Wenn ich das so lese muss das jeder tun, denn schon die Google-Suche läuft ja über KI.
BriMa
Für rein private Nutzung gilt es nicht. Bei Anwendung von KI im Unternehemsnakontext schon. Da die Tomedofunktionen explizit KI sind/nutzen, müssen wir KI Kompetenz sicherstellen/nachweisen.
Johannes Stößel
Ich würde die Folien auf dieser Webseite verteilen und unterschreiben lassen, dass diese durchgeschaut und verstanden wurden. Dann abheften und gut ist.
https://www.allianz-fuer-cybersicherheit.de/SharedDocs/Downloads/Webs/ACS/DE/Kreise/Expertenkreis_KI_Schulungsfolien_Sensibilisierung.html
BriMa
Nur zur Ergänzung: für mich selbst habe ich eine entsprechende Onlineschulung gemacht. Zudem lasse ich die Mitarbeiter das entsprechende Kapitel im QM (Nach Besprechung natürlich) per Unterschrift bestätigen. Die Frage ist halt, ob es ausreicht.
Christian Klaproth
Welche KI nutzen Sie, haben Sie eine lokale KI installiert oder nutzen Sie Klaus&Ingo (z.B. Chat GPT oder Claude)?
Was machen Sie mit den Daten?
Arbeiten sie so, dass keine pateientenbezogenen Daten an extern gehostete LLM gegeben werden?
Nutzen Ihre MFA KI generierte Ergebnisse und wenn ja was machen Sie damit?
BriMa
Ich nutze die KI Funktionen von Tomedo. Damit werde ich zum Betreiber. Die Nutzung externer KI wie ChatGPT ist keine Voraussetzung für das Gelten der Verordnung.
Wenn ich das falsch sehe, lass ich mich gern überzeugen. Vielleicht kann Tomedo das ja auch einordnen als Anbieter der Funktionen.
Christian Klaproth
Sie betreiben ein PVS dass Ihnen hilft Daten zu strukturieren mehr eigentlich nicht.
BriMa
Ja, aber mit KI Funktionalität. Wenn ich die nutze, gilt der Kram wohl leider
Christian Klaproth
Der Nachweis wird noch nicht geprüft. Da wollen sich viel eine goldene Nase damit verdienen ihnen und Ihren Mitarbeienden Kompetenzen zu vermittelten.
Christian Klaproth
Schauen Sie sich doch mal die PowerPoint Presentation an, die Herrr Stößel hier verlinkt hat. Das dürfte genügen
Dr.Christoph Hainich
...noch ein Grund mehr, den KI-Abschalten-Button für Tomedo zu fordern. Dass irgendwas mit KI, das über ein Expertensystem hinausgeht, in einem PVS nichts zu suchen hat, dürfte allmählich klar werden.
Grüße aus dem wilden Harz
Christian Klaproth
Ich finde es nützlich, und das was Tomedo anbietet, hilft zu Daten zu strukturieren. Ich habe für mich ein weit leistungsstärkeres System unabhängig vonTomedo gebastelt und es bewährt sich im Alltag ungemein.
Denken muss man allerdings noch selbst.
Auch die Transskription von Gesprächen ist sinnvoll. Es muss nur einer dasein, der alles prüft und ggf. noch ändert.
KI ist nie Fehlerfrei. Absolut verteufeln ist der verkehrte weg - sinnvoll nutzen der richtige. Und wer die Powerpointpresntation oben mal durchsieht wird das auch erkennen.
Dr.Christoph Hainich
Dass Expertensysteme gelegentlich auch unter KI subsumiert werden. ist mir klar. Maschinelles Lernen mit Datenzugriff zum Lernen außerhalb des PVS sollte nicht innerhalb des PVS zum Tragen kommen. Wenn der Praxeninhaber lernt und das in sein PVS enpflegt, ist das aber nur gut und rechtens.
Grüße aus dem MI-basierten (oder meinetwegen HI) basierten Harz
