Als europäisches KI-Unternehmen standen wir bei DeepVA in den vergangenen Jahren oft vor der Herausforderung, in einem Umfeld zu navigieren, das von Unsicherheiten bezüglich zukünftiger KI-Regulierungen geprägt war.
Hervorgegangen aus einem Forschungsprojekt der Hochschule Offenburg(lesen Sie mehr über uns hier) haben wir ab 2017 einen starken Fokus auf die speziellen Bedürfnisse europäischer Medienhäuser, Kommunen und Universitäten gelegt. Gerade kleine und mittelständische Anbieter wie wir, die nicht über große Rechtsabteilungen verfügen, sehen von Anfang an die Chance, Lösungen anzubieten, die von vornherein auf unsere europäischen und demokratischen Anforderungen ausgelegt sind und diese Mechanismen, wie zum Beispiel das automatische „Vergessen“ von Datensätzen nach einer bestimmten Zeit, in ihre Struktur integrieren. Damit ist der Datenschutz nicht nur für den Nutzer gewährleistet, sondern auch für Dritte, die z.B. im Bildbestand enthalten sind.
Mit der Umsetzung des EU AI Acts wurde nun eine wichtige Orientierung geschaffen. Diese Entwicklung wurde kürzlich durch die IRIS-Studie der Europäischen Audiovisuellen Informationsstelle (EAI) vertieft, die eine umfassende Analyse der rechtlichen Herausforderungen speziell für KI-Anwendungen im Medienbereich liefert. Insbesondere wird betont, dass der Datenschutz – in Verbindung mit der Datenschutz-Grundverordnung (DSGVO) - ein Eckpfeiler der europäischen KI-Strategie bleibt, vor allem in datenintensiven Sektoren.
DSGVO-konforme Transparenz und Datenschutz
Behörden, Städte und Universitäten benötigen leistungsfähige KI-Lösungen, die höchsten Datenschutzstandards entsprechen. Deshalb bieten wir bei DeepVA neben unseren SaaS-Lösungen gezielt europäische Lösungen an, die bei Bedarf auch vollständig on-premise installiert werden können. Unsere Composite AI Platform zielt darauf ab, mehrere KI-Dienste wie Spracherkennung, Gesichtserkennung, Objekterkennung und Übersetzung für spezifische Aufgaben zu kombinieren und dabei die volle Datensouveränität zu ermöglichen.
So ermöglichen wir es beispielsweise Universitäten und Hochschulen, automatische Transkription und Untertitelung einzusetzen, um Vorlesungen, Sitzungen oder Tagungen transparenter und zugänglicher zu machen, ohne dass sie befürchten müssen, dass Daten abfließen oder das Training weiterer Modelle verwendet werden, da sämtliche Nutzungsarten, insbesondere eine Weiterverarbeitung zu Trainingszwecken, vertraglich und technisch ausgeschlossen sind.
Regionale Lösungen als Wettbewerbsvorteil
Die IRIS-Studie der EU weist darauf hin, dass die meisten KI-Lösungen nach wie vor außerhalb Europas entwickelt werden, was zu einer übermäßigen Marktmacht führt. Für die europäischen Institutionen bedeutet dies Herausforderungen bei der Rechtsdurchsetzung und Kontrolle und für die Nutzer natürlich eine Abhängigkeit von den Technologiekonzernen. Natürlich sind die Produkte solcher Anbieter komfortabel und einfach zu bedienen, aber in der Vergangenheit waren es gerade negative Erfahrungen mit Informationsabflüssen, die auch einzelne Kunden zu uns geführt haben. Gerade die Entwicklungen der letzten Wochen in den USA haben gezeigt, wie volatil solche Geschäftsbeziehungen auch in Zeiten disruptiver Außenpolitik sein können oder gar zu einem Politikum werden.
Verantwortung bei Nutzung von Open Source
Ein Lösungsansatz für Institutionen ist hier die Nutzung unabhängiger Open-Source-Modelle, wie sie bereits in unserer Gründungsphase an der Hochschule Offenburg und der Universität Freiburg schon breit zum Einsatz kamen. Als wissenschaftliche Mitarbeiterin oder Mitarbeiter baute man oft auf bestehenden Algorithmen auf und modulierte Parameter für seinen spezifischen Anwendungsfall. Genau hier wollen wir eine Brücke schlagen: Bei DeepVA übernehmen wir die Verantwortung, spannende Modelle zu evaluieren, zu integrieren und kontinuierlich zu pflegen. So profitieren unsere Kunden ohne eigenes Risiko von den neuesten Entwicklungen der Open-Source-KI-Community, aber auch von unseren Partnern aus der Forschung (z.B. Hochschule RheinMain oder Fraunhofer Institute), die ihre Ergebnisse schnell und einfach in Medienunternehmen oder andere Anwendungen bringen können. Jede Innovation wird getestet, integriert und auch weiter professionell betreut, so dass Behörden und Hochschulen bei maximaler Sicherheit agil bleiben. Dies wird auch in Zukunft weiter ausgebaut werden.
KI-Systeme werfen immer ethische Fragestellungen hinsichtlich Diskriminierung und Verzerrung auf. Bei DeepVA gehen wir diese Herausforderungen aktiv an, indem wir ausgewogene Trainingsdaten und spezielle technische Verfahren einsetzen – ein Beispiel hierfür ist die Verwendung von Focal-Loss-Funktionen, die unterrepräsentierte Gruppen in Datensätzen erkennen und korrigieren. Unter anderem stellen wir sicher, dass die Systeme faire und nicht diskriminierende Entscheidungen treffen und ermöglichen es unseren Nutzern sogar, quantitative Aussagen über die Vielfalt in ihren Datensätzen oder Inhalten anhand unserer Diversitätsanalyse zu machen.
Diese Werkzeuge und Maßnahmen sind nicht nur das Ergebnis direkter Kundenanfragen, sondern auch ein grundlegender Bestandteil unserer eigenen Unternehmenswerte.
Rechtssicherheit und Compliance
Über all diesen Themen steht die große Frage der Rechtssicherheit sowie die Klärung von Haftungsfragen und regulatorischer Compliance als zentrale Bestandteile des Implementierungsprozesses von KI-Lösungen. Hier versuchen wir unsere Kunden bestmöglich an die Hand zu nehmen und unterstützen sie durch Audits und gegebenenfalls durch die Implementierung zusätzlicher Mechanismen und Zertifikate. Gleiches gilt für die Einbindung von Modellen Dritter, die zunächst einer rechtlichen Prüfung unterzogen werden, insbesondere auch aus dem Open-Source-Bereich. So profitieren die Institutionen nachhaltig von KI-Lösungen, die den sich ständig ändernden regulatorischen Anforderungen gerecht werden.
Nutzerkommunikation und Support
Das Thema Kommunikation betrifft aber nicht nur die rechtlichen Rahmenbedingungen. Damit die Endnutzer sicher und kompetent mit KI umgehen können, unterstützen wir unsere Kunden gerne bei der Erstellung von klaren Benutzerinformationen, Tutorials oder der Implementierung von Warnhinweisen. Transparenz, Rechtssicherheit und Nutzerfreundlichkeit stehen dabei immer im Mittelpunkt.
Mission: KI verantwortungsvoll und sicher einsetzen
Die europäische KI-Regulierung bietet klare Leitplanken, um Innovationen verantwortungsvoll umzusetzen. Unser Ziel ist es, in diesem Handlungsfeld die notwendigen Werkzeuge bereitzustellen, um nicht nur KI-Funktionen zu implementieren, sondern auch eigene Datensätze und Modelle aufzubauen und zu nutzen. Mit DeepVA unterstützen wir Institutionen und Unternehmen dabei, die Chancen von Open Source und dynamischer Weiterentwicklung optimal zu nutzen – KI, aber mit dem Credo: regional, datenschutzkonform und dennoch innovativ.
