Ein Blog zu Data Science und KI-Projekten
Vertrauenswürdige KI
planen, entwickeln und betreiben.
Praxiswissen und Hintergründe zur Planung, Entwicklung und Einführung von verantwortungsvollen und vertrauenswürdigen KI-Systemen.
Warum dieser Blog?
Warum braucht es vertrauenswürdige und verantwortungsvolle KI-Systeme?
Spätestens seit ChatGPT ist Künstliche Intelligenz (KI) keine Zukunftsvision mehr, sondern ein integraler Bestandteil unseres Alltags – von intelligenten Assistenten oder Agenten bis hin zu komplexen Analysetools. Doch mit der zunehmenden Verbreitung von KI-Systemen wachsen auch die Fragen nach ihrer Vertrauenswürdigkeit und unserem Vertrauen in sie. Da KI-Entscheidungen immer weitreichendere Konsequenzen haben können, ist es unerlässlich, dass KI-Systeme nicht nur (fortlaufend) leistungsfähig, sondern auch transparent, zuverlässig und ethisch einwandfrei funktionieren.
Vor diesem Hintergrund ist es häufig nicht einfach zu wissen, worauf man bei der Planung, Konzeption und Umsetzung von vertrauenswürdigen (trusted-ai) und verantwortungsvollen (responsible-ai) KI- oder Data-Science-Projekten und -Systemen achten sollte oder muss. Auf diesem Blog möchte ich deshalb zu folgenden Schwerpunkten mein Wissen und meine Erfahrungen aus der Praxis teilen:
KI-Projekte sind anders.
KI-Projekt- und Anforderungsmanagement
Bei KI– oder Data Science Projekten spielen Daten eine zentrale und erfolgsbestimmende Rolle. Deren Qualität und Nutzen sind jedoch in der Regel nur selten im Vorfeld bereits eindeutig bekannt und so unterschiedlich wie Kunden, deren Rahmenbedingungen und Use Cases. Damit variieren auch Lösungsansätze, geeignete Technologien und letztendlich der Mehrwert mit jedem Use Case. Umfangreiche regulatorische Anforderungen erweitern die möglichen Risiken.
Für KI- und Data Science Projekte sind deshalb gründliche IST- und Anforderungsanalysen, eine testgetriebene Entwicklung und iterative Vorgehensweisen erfolgsentscheidend. Fail Fast, Learn Fast.
EU-AI-Act, DSGVO, DGA und co.
KI-Compliance, Risikomanagement & Governance
KI ist mitunter schnell entwickelt, aber ist sie auch vertrauensvoll, sicher und erfüllt ihren Zweck? Vor dem Hintergrund zunehmender Regulierung von KI- und datengetriebene Systeme kommt der Einhaltung von Qualitäts– und Sicherheitsstandards eine besondere Bedeutung zu.
Eigenschaften wie Biasfreiheit, Datenschutz und Sicherheit sowie Transparenz und Robustheit sind zentrale Anforderungen an vertrauenswürdige KI und machen ein KI-Risikomanagement zu einer zentralen Notwendigkeit.
Diese gilt es je nach Use Case während des gesamten KI-Lifecycles sicherzustellen und nachzuweisen.
Souveräne und auditierbare KI-Systeme
Open Source KI
Was insbesondere im Bereich der generativen KI lange als unwahrscheinlich galt, ist längst Realität: Generative KI-Modelle auf Basis von Open Source Technologien sind konkurrenzfähig oder übertreffen bereits Modelle und Angebote von Closed Source Anbietern wie OpenAI, Anthropic und Co.
Dies ermöglich KI-Systeme und Use Cases, welche maximale Kontrolle, Souveränität und Nachvollziehbarkeit voraussetzen. Bestmögliche Grundlage für (wirklich) eigene, auditierbare und souveräne KI-Systeme ohne Cloud-Zwang.
Wer?
Moin.
Mein Name ist Ole Dawidzinski und ich bin Data Scientist und Consultant mit mehr als 8 Jahren Erfahrung in der Durchführung von Data Science und KI-Projekten.
Als zertifizierter ISO 42001 Professional (TÜV) und Initiator des Open Source KI-System Framework (OSKIS) liegt mein Schwerpunkt in der Planung, Entwicklung und Bereitstellung von auditfähigen und vertrauensvollen KI-Systemen auf Basis oder ergänzt von Open Source Technologien.
Mit diesem Blog möchte ich meine Erfahrungen und Wissen aus der Praxis teilen und weitergeben.
Mein Blog.
Beiträge, Leitfäden und mehr…
Was ist vertrauenswürdige und verantwortungsvolle KI?
Vertrauenswürdige & verantwortungsvolle KI – Was ist das und wo sind die Unterschiede? Der EU-AI Act fordert sichere, transparente & ethische KI. Was heißt das?
Vorlage: KI Use Cases identifizieren und dokumentieren
Wie identifiziere ich KI Use Cases? Ein Leitfaden zur problemzentrierten Ermittlung und Dokumentation von KI-Potenzialen, Use- sowie Business-Cases.
KI-Kompetenz (Teil 2): Der Unterschied zwischen KI, Data Science und Co.
Wenn man von KI spricht, kommen schnell Begriffe wie Data Science, Data Mining, Machine Learning oder Deep Learning auf. Doch was sind die Unterschiede?
KI-Kompetenz (Teil 1): Grundlage für verantwortungsvolle KI
Was ist KI-Kompetenz und warum ist diese für verantwortungsvolle und vertrauenswürdige KI-Systeme eine Grundvoraussetzung? Ein Überblick zu den wichtigsten Punkten.
Vorlage: KI-Projektsteckbrief
Eine detaillierte Vorlage für einen KI-Projektsteckbrief, welcher als kompaktes Lasten- und Pflichtenheft für Projekte oder Ausschreibungen genutzt werden kann.
Closed Source vs. Open Source vs. Open Weight KI
Vertrauenswürdige KI: Der Unterschied zwischen Closed Source, Open Source und Open Weight KI-Modellen und was dies für AI-Compliance & Governance bedeutet.
Vorlage: IST-Analyse für KI- oder Data Science Projekte
Voraussetzung für Data Science oder KI-Projekte: Detaillierte Vorlage zur Identifikation sowie Dokumentation der Rahmenbedingungen für den Einsatz von KI.
Deutschsprachige Open Source LLMs als Alternative zu ChatGPT und Co.
Open Source LLMs beherrschen zunehmend deutsch — ein Meilenstein, der ihre Anwendung im deutschsprachigen Markt erleichtert.
Veröffentlichungen bei Dritten.
Artikel und Gastbeiträge
Large Language Models – Open Source als Alternative?
Beinahe täglich erscheinen neue Werkzeuge und Use Cases auf Basis von Large Language Models (LLMs). Nie war es so leicht, Zugriff auf fortschrittlichste KI-Systeme zu bekommen. Aktuell sind OpenAI und Microsoft sowie Google die führenden kommerziellen Anbieter, die auch Schnittstellen (APIs) zur Nutzung der Modelle bereitstellen – sogenannte AI-as-a-Service (AIaaS).
KI-Modelle und ihre Potenziale – Open Source versus Closed Source
Wo bis vor kurzem noch außer Frage stand, dass Closed-Source-Anbieter wie OpenAI oder Google mit ihren Sprachmodellen ChatGPT, GPT-3/4 oder Bard eine Monopolstellung einnehmen, haben sich in kürzester Zeit Open-Source-Alternativen entwickelt. Der folgende Beitrag soll einen Einblick geben, was Closed- und Open-Source-Modelle voneinander unterscheidet, ob letztere eine Alternative sein können und wie die zukünftige Entwicklung aussehen kann.
ChatGPT & Co.: So verändern individualisierte KI-Systeme den Versicherungsvertrieb
Cash Online –
Das Sprachmodell ChatGPT hat Künstliche Intelligenz (KI) in den weltweiten Fokus der Öffentlichkeit gerückt. Das textbasierte KI-System hat die beeindruckende Fähigkeit, menschenähnliche Konversationen zu führen oder komplexe Aufgaben wie Textzusammenfassungen und Übersetzungen anzufertigen. Doch welche Potenziale ergeben sich daraus für Branchen wie den Versicherungsvertrieb? Und wo liegen die Grenzen solcher Sprachsysteme?
Augen und Ohren für KI: Autonome Agenten zur Aufgaben- und Prozessautomatisierung
it-daily – – Ole Dawidzinski
Generative KI auf Basis von Large Language Models (LLMs) durchdringt derzeit immer mehr Anwendungsbereiche und schafft zunehmend neue Möglichkeiten. Viele haben ChatGPT oder die Bing Chat AI bereits ausprobiert und nutzen die KI-Systeme bereits als Unterstützung im Alltag oder Beruf. Doch was wäre, wenn solche “intelligenten” Assistenzsysteme weitaus komplexere Aufgaben übernehmen, uns gar das Denken teilweise abnehmen würden? Autonome Agenten sind bereits auf dem Vormarsch.
Potential von ChatGPT & Co.: Individualisierte KI-Systeme als nächster Schritt für Handel und Unternehmen
Location Insider – 03.März 2023 – Ole Dawidzinski
Seit der Veröffentlichung des Chatbots ChatGPT – eines textbasierten Dialogsystems, das auf maschinellem Lernen beruht – durch OpenAI überschlagen sich die Erwartungen. Gleichzeitig wachsen die Sorgen und Zweifel an der Praxistauglichkeit solcher Programme durch zu ungenaue oder generische Antworten. Die einen sehen in Künstlicher Intelligenz (KI) die Zukunft, mit großen Anwendungspotenzialen, andere fühlen sich in der Annahme bestärkt, dass KI noch in den Kinderschuhen steckt. Experimente mit ChatGPT zeigen immer wieder, dass insbesondere bei Fachfragen oder speziellen Problemstellungen sehr unterhaltsame, aber häufig falsche oder zu allgemeine Antworten generiert werden. Den Programmen fehlt einfach noch eine ganze Menge Wissen. Ausgerechnet diese Tatsache ist jedoch deren eigentliches Potenzial und ermöglicht es Unternehmen, ihre ganz eigenen, fallbezogenen Systeme aufzubauen. Doch was bedeutet das genau und welche Möglichkeiten bieten sich mit Blick auf Personalisierung, Produktentwicklung oder der Kund:innenkommunikation?
