Andi Dittrich
Liebes zollsoft Team,
es wäre super wenn es zeitnah eine Konfigurationsoption geben würde die es erlaubt Praxen eigene API Endpunkte für die KI Funktionen (Sprechstundenassistent, Karteichat, Spracherkennung, CKE etc.) zu nutzen.
Der Hintergrund ist, dass wir eine 100% lokale Verarbeitung (Datenschutz) nutzen möchten (entsprechende Hardware wäre vorhanden) und deutlich komplexere Datenpipelines zur Auswertung nutzen wollen (Datenabgleich, Agenten etc.)
Technisch sollte dies relativ einfach realisierbar sein solange die von tomedo genutzten externen API Aufrufe dokumentiert werden. Eine "verstecke" Option in den properties wäre imho mehr als ausreichend.
Danke & Beste Grüße aus Bremen,
Andi Dittrich
Jan-Ole Finkeisen
Hallo Herr Dittrich,
wenn Sie möchten, lass Sie uns gerne über Ihr vorhaben sprechen.
Ich würde gerne mehr darüber erfahren.
Einen Termin können Sie über folgenden Link bei mir buchen: https://calendar.app.google/A4cE1bdd2hWMziPs7
Viele Grüße
Jan-Ole Finkeisen
Richard Kupke
Das Thema interessiert mich auch brennend. Lokale KI-Anbindung wäre super. :-) Darf ich mich mit einklinken?
Liebe Grüße, Richard Kupke
Jan-Ole Finkeisen
Klar, Sie dürfen über den Link auch gerne einen Termin buchen :)
Christian Schacht
Hallo Herr Finkeisen,
da wäre ich auch gerne mit dabei. API und lokale KI sind, wie Sie wissen, auch bei mir sehr große Themen.
Beste Grüße aus Augsburg
Christian Schacht
Jan-Ole Finkeisen
Hallo Herr Schacht,
Sie dürfen natürlich auch gerne einen Termin bei mir buchen.
Ich glaube nur nicht, dass ein größerer Gruppentermin zielführend ist.
Wir experimentieren zur Zeit mit einem Ollama Connector, als Alternative zu Gemini.
Für mich wäre spannend herauszufinden, ob das schon ausreichend ist oder ob es signifikante Änderungen benötigt, um lokale Modelle nutzbar zu machen.
Grüße
Jan-Ole Finkeisen
Richard Kupke
Könnten wir einfach eine Drei-Runde dann zusammenstellen? Mich interessieren auch die Themen von Hr. Schacht oder Dittrich nicht nur die Zollsoft-Gedanken ;-) Dann bündeln wir die Themen etwas.
Andreas Jenke
Das wünschen wir uns auch. Wir betreiben einen Rechner mit Llama.cpp-Server. Eine OpenAI-kompatible API wäre deshlab fantastisch. Dann könnten wir unseren KI-Server anstelle von Gemini mit tomedo verbinden.
Viele Grüße
Andreas Jenke
alexkoch
Das fände ich auch super! Die Entwicklung vo individuellen AI-Helferlein bzw. Agenten wird ja immer einfacher, und kann in vielen Bereichen enorm helfen. Leider sind die meisten Tools, die für den breiten Markt entwickelt werden, eher an Platformen wie Microsoft Teams oder Slack oder eine Google Kalender anbindbar, aber natürlich nicht an Tomedo. Trotzdem können da gute Lösungen gebaut werden, ich habe z.b. gerade einen komplett individuellen Sprachassistenten für Telefonie mit 11labs gebaut, der hervorragend funktioniert, und auch per API angeschlossen werden könnte. Solche Lösungen werden sicherlich in der Zukunft noch viel mehr nachgefragt werden. Ich wäre da auch an einem Austausch interessiert.
Christian Schacht
Hallo Herr Finkeisen,
ein Ollama-Konnektor wäre fantastisch! So könnten die tollen Funktionalitäten in tomedo in Verbindung mit einer offenen API mit lokaler KI genutzt werden. In einem solchen Fall würde sich meine derzeit laufende Entwicklung um einiges reduzieren, da ich auf tomedo-Ressourcen zurückgreifen könnte.
Ich werde mir ganz sicher einen Termin buchen!
Beste Grüße aus Augsburg
Christian Schacht