Phi-3: Neue Möglichkeiten mit Small Language Models (SLMs)

Donnerstag, 25. April 2024

Microsoft hat mit Phi-3 eine neue Familie von KI-Modellen vorgestellt, die die Möglichkeiten von Small Language Models (SLMs) neu definieren sollen. Die Phi-3-Modelle sind leistungsfähig und kostengünstig, erweitern die Auswahl hochwertiger Modelle und bieten mehr praktische Optionen für die Entwicklung von Generative-AI-Anwendungen.

Phi-3-mini

Ab sofort ist Phi-3-mini, ein 3,8 Milliarden Parameter umfassendes Sprachmodell, über Microsoft Azure AI Studio, Hugging Face und Ollama verfügbar. Zur Verfügung stehen in zwei Varianten von Kontextlängen – mit 4K- und 128K-Token. Es ist das erste Modell seiner Klasse, das ein Kontextfenster von bis zu 128K Tokens unterstützt, ohne die Qualität zu beeinträchtigen.

Phi-3-mini ist an Anweisungen angepasst, was bedeutet, dass es darauf trainiert ist, verschiedenen Arten von Anweisungen zu folgen, die der natürlichen menschlichen Kommunikation entsprechen. Dadurch ist das Modell sofort einsatzbereit. Es ist über Azure AI verfügbar, um die Bereitstellung, Evaluierung und Feinabstimmung zu erleichtern, und auf Ollama, um von Developern lokal auf ihren Laptops ausgeführt werden zu können. Außerdem wurde es für die ONNX Runtime optimiert und unterstützt Windows DirectML sowie plattformübergreifende Unterstützung für Grafikprozessoren (GPU), CPU und sogar mobile Hardware. Darüber hinaus ist Phi-3-mini ist auch als NVIDIA NIM Microservice mit einer standardisierten API-Schnittstelle verfügbar, die überall bereitgestellt werden kann, und wurde für NVIDIA-GPUs optimiert.

Weitere Modelle sind geplant

In den kommenden Wochen werden weitere Modelle der Phi-3-Familie hinzugefügt, um Kunden noch mehr Flexibilität entlang der Qualitäts-Kosten-Kurve zu bieten. Phi-3-small (7B) und Phi-3-medium (14B) werden bald im Azure AI Model Catalog und anderen Modellsammlungen verfügbar sein.

Sicherheitsorientiertes Modell-Design

Die Phi-3-Modelle wurden gemäß dem Microsoft Responsible AI Standard entwickelt. Dieser Standard umfasst sechs Prinzipien: Rechenschaftspflicht, Transparenz, Fairness, Zuverlässigkeit und Sicherheit, Privatsphäre und Sicherheit sowie Barrierefreiheit. Die Modelle Phi-3 durchliefen rigorose Sicherheitsmessungen und -bewertungen, Red Teaming, Überprüfungen sensibler Anwendungen und die Einhaltung von Sicherheitsrichtlinien, um sicherzustellen, dass sie verantwortungsbewusst entwickelt, getestet und implementiert werden.

Einsatzmöglichkeiten für die Phi-3-Modelle

Die Erfahrung von Microsoft mit der Bereitstellung von Copiloten und der Unterstützung von Kunden bei der Transformation ihrer Geschäfte mit generativer KI auf Azure AI hat den wachsenden Bedarf an Modellen verschiedener Größe entlang der Qualitäts-Kosten-Kurve für verschiedene Aufgaben verdeutlicht. Kleine Sprachmodelle wie Phi-3 eignen sich besonders für:

• Umgebungen mit begrenzten Ressourcen, einschließlich On-Device- und Offline-Inferenzszenarien
• Latenzgebundene Szenarien, in denen schnelle Reaktionszeiten entscheidend sind.
• Kosteneingeschränkte Anwendungsfälle, insbesondere solche mit einfacheren Aufgaben.

Phi-3-Modelle können aufgrund ihrer geringeren Größe in Inferenzumgebungen mit eingeschränkter Rechenleistung eingesetzt werden. Insbesondere Phi-3-mini kann On-Device verwendet werden, insbesondere wenn es mit der ONNX Runtime für plattformübergreifende Verfügbarkeit optimiert wird. Die geringere Größe der Phi-3-Modelle erleichtert auch die Feinabstimmung oder Anpassung und macht sie erschwinglicher. Darüber hinaus führen ihre geringeren Anforderungen an die Rechenleistung zu niedrigeren Kosten und wesentlich besserer Latenz. Das längere Kontextfenster ermöglicht das Einlesen und Argumentieren über große Textinhalte – Dokumente, Webseiten, Code und mehr. Phi-3-mini zeigt starke Argumentations- und Logikfähigkeiten, was es zu einer guten Wahl für analytische Aufgaben macht.

Fazit

Die Phi-3-Familie von Microsoft bietet innovative Möglichkeiten für den Einsatz von Small Language Models und eröffnet neue Wege für den Einsatz von KI in unterschiedlichen Anwendungsszenarien. Wenn du die Phi-3-Modelle selbst ausprobieren möchtest, kannst du mit dem Modell im Azure AI Playground spielen oder es im Hugging Chat Playground finden.

Mehr erfahren