Deep Learning

Bau dir deine eigene KI in 5 Schritten

/ Jan R. Bergrath / Hinterlasse einen Kommentar
Die IT-seitigen Voraussetzungen für den Betrieb von Künstlicher Intelligenz (KI) hängen stark davon ab, welche Art von KI-Anwendung betrieben werden soll (z. B. maschinelles Lernen, Deep Learning, einfache regelbasierte Systeme) und ob diese lokal (on-premises) oder in der Cloud betrieben wird. Hier findest du eine schnelle Übersicht um loszulegen. Bau dir deine eigene KI in 5 Schritten. Im Allgemeinen lassen sich die Anforderungen in folgende Kategorien unterteilen:

1. Hardware
  • Rechenleistung (CPU/GPU/TPU): KI-Modelle, insbesondere solche mit Deep Learning, erfordern leistungsstarke Prozessoren. GPUs (Graphics Processing Units) oder TPUs (Tensor Processing Units) sind oft notwendig, da sie parallele Berechnungen effizient durchführen können.
  • Arbeitsspeicher (RAM): Für das Training und die Inferenz von KI-Modellen wird viel RAM benötigt, typischerweise 16 GB oder mehr, bei großen Modellen oft 64 GB oder höher.
  • Speicherplatz: Modelle, Trainingsdaten und generierte Daten können terabyteweise Speicherplatz beanspruchen. Schnelle SSDs sind für den Datenzugriff von Vorteil.
  • Netzwerk: Bei verteilten Systemen oder Cloud-Lösungen ist eine schnelle und stabile Internetverbindung essenziell
2. Software
  • Betriebssystem: Linux (z. B. Ubuntu) wird häufig bevorzugt, aber Windows oder macOS sind ebenfalls nutzbar, je nach Anwendungsfall.
  • Frameworks und Bibliotheken: Gängige KI-Frameworks wie TensorFlow, PyTorch, Scikit-learn oder Keras müssen installiert sein.
  • Programmiersprachen: Python ist die dominierende Sprache für KI-Entwicklung, oft ergänzt durch R oder Julia.
  • Containerisierung: Tools wie Docker oder Kubernetes werden genutzt, um KI-Anwendungen skalierbar und portabel zu machen.
3. Daten
  • Datenqualität und -menge: KI benötigt große Mengen an hochwertigen, strukturierten Daten für das Training. Daten müssen vorbereitet, bereinigt und in einem zugänglichen Format (z. B. CSV, JSON, Datenbanken) vorliegen.
  • Datenmanagement: Datenbanken (SQL, NoSQL) oder Data Lakes zur Speicherung und Verwaltung der Daten sind oft erforderlich.
  • Datensicherheit: Verschlüsselung und Zugriffskontrollen sind notwendig, um sensible Daten zu schützen.
4. Infrastruktur

  • Cloud vs. On-Premises: Cloud-Plattformen wie AWS, Google Cloud oder Azure bieten skalierbare Ressourcen (z. B. virtuelle Maschinen, GPU-Instanzen), während lokale Server mehr Kontrolle, aber höhere Anfangsinvestitionen erfordern.
  • Skalierbarkeit: Die Infrastruktur sollte flexibel sein, um Lastspitzen oder wachsende Modelle zu bewältigen.
  • Monitoring: Tools wie Prometheus oder Grafana helfen, die Performance der KI-Systeme zu überwachen.
5. Spezifische Anforderungen
  • Training vs. Inferenz: Das Training eines Modells ist ressourcenintensiver (mehr GPU-Leistung, Speicher) als die Inferenz (Einsatz des trainierten Modells), die oft auf leichterer Hardware laufen kann.
  • Latenz und Echtzeit: Bei Anwendungen wie autonomen Fahrzeugen oder Chatbots ist eine niedrige Latenz entscheidend, was spezielle Optimierungen oder Edge-Computing erfordert.
Beispiel für eine minimale Konfiguration (z. B. für einen einfachen ML-Betrieb):
  • Hardware: PC mit 8-16 GB RAM, Mittelklasse-GPU (z. B. NVIDIA GTX 1660), 500 GB SSD.
  • Software: Ubuntu, Python 3.x, TensorFlow/PyTorch, Jupyter Notebook.
  • Daten: Bereinigter Datensatz mit mindestens einigen tausend Einträgen.

Bau dir deine eigene KI

Für komplexere Anwendungen (z. B. große Sprachmodelle wie GPT) steigen die Anforderungen erheblich – oft sind Cluster von High-End-GPUs (z. B. NVIDIA A100) und petabyteweise Speicher nötig.  
Teilt gerne eure Erfahrungen mit. Du hast Fragen? Dann melde dich Mehr Informationen zu Machine Learning, Künstlicher Intelligenz findest du hier

Agenten, überall Agenten… aber was ist eigentlich ein AI Agent?

/ Jan R. Bergrath / Hinterlasse einen Kommentar

Definition eines AI-Agenten
Ein AI-Agent ist ein Softwareprogramm, das in der Regel auf Künstlicher Intelligenz (KI) basiert und darauf ausgelegt ist, eins-zu-eins-Gespräche zu führen und die Servicequalität zu verbessern. Es gibt eine alternative Definition des Begriffs, die sich auf räumlich entfernt arbeitende oder „virtuelle“ Mitarbeiter bezieht. Für unsere Zwecke ist jedoch die erste Definition, die sich auf Software bezieht, ausreichend.

Darstellung eines AI-Agenten
Wie funktionieren AI-Agenten?
AI-Agenten werden mithilfe fortschrittlicher Technologien wie der Verarbeitung natürlicher Sprache (NLP) und maschinellem Lernen entwickelt. Diese ermöglichen es ihnen, die Sprache der Nutzer zu verstehen, zu verarbeiten und passende Lösungen für deren Probleme zu finden. Dabei greifen AI-Agenten auf eine vorgefertigte Datenbank zu, die in der IT auch als „Wissensbasis“ bezeichnet wird.

Häufige Missverständnisse über AI-Agenten
Räumlich entfernte Callcenter-Mitarbeiter als AI-Agenten. Eine alternative Definition des Begriffs „AI-Agent“ wird im Dienstleistungssektor häufig für Callcenter-Mitarbeiter verwendet, die räumlich entfernt arbeiten, oft für Outsourcing-Unternehmen. Der Unterschied zwischen herkömmlichen Callcenter-Mitarbeitern und virtuellen Callcenter-Agenten liegt darin, dass letztere in der Regel nicht direkt zum Unternehmen gehören und aus der Ferne arbeiten. Sie fungieren im Wesentlichen als Assistenten oder Sekretäre, insbesondere für Inhaber kleiner Unternehmen.

Die hier besprochenen AI-Agenten hingegen sind ausschließlich Softwareprogramme, die darauf ausgelegt sind, Self-Service-Funktionen zu verbessern und Endnutzer auf Plattformen wie Websites oder Messaging-Apps zu unterstützen, indem sie deren Fragen beantworten.

AI-Agenten im Vergleich zu Chatbots
Darstellung: AI-Agent vs. Chatbot
Was ist der Unterschied zwischen AI-Agenten und Chatbots?

Diese Frage ist eines der am häufigsten diskutierten Themen im Bereich KI im Kundenservice. Sind AI-Agenten dasselbe wie Chatbots? Wenn nicht, worin unterscheiden sie sich? Um dies zu klären, ist es wichtig, die jeweiligen Funktionen zu betrachten.

Chatbots, wie der Name andeutet, sind Bots – also Softwareprogramme –, die darauf ausgelegt sind, mit Menschen zu „chatten“ oder zu kommunizieren. Es gibt verschiedene Arten von Chatbots. Eine gängige Variante ist der einfache Chatbot, den man beispielsweise auf E-Commerce-Websites findet. Es gibt jedoch auch sogenannte Spambots, die darauf programmiert sind, Nutzer arglistig zu kontaktieren und Informationen zu entlocken, ohne dass diese aktiv angefragt werden.

Ein AI-Agent hingegen ist ein komplexeres Softwareprogramm, das nicht nur mit Kunden chattet, sondern auch aktiv bei der Problemlösung hilft, indem es sofort Lösungsvorschläge unterbreitet. Kann ein AI-Agent ein Problem nicht lösen, erstellt er ein Ticket und leitet es an einen menschlichen Agenten zur weiteren Bearbeitung weiter.

Zusammenfassend lässt sich sagen, dass AI-Agenten darauf abzielen, menschliche Agenten zu ersetzen und die Self-Service-Funktionen zu verbessern, während Chatbots in erster Linie darauf ausgelegt sind, Endnutzer zu leiten und grundlegende Interaktionen zu ermöglichen.

Jan R. Bergrath