Google Gemini: Googles leistungsstarke multimodale KI verstehen

Bei seiner Ankündigung demonstrierte das Flaggschiffmodell Gemini Ultra eine hochmoderne Leistung in zahlreichen akademischen Benchmarks. Insbesondere sein berichteter Wert von 90,0 % im MMLU-Benchmark (Massive Multitask Language Understanding) machte es zu einem der ersten Modelle, von denen behauptet wurde, dass sie die Leistung menschlicher Experten in diesem spezifischen Test übertreffen.

MMLU ist ein umfassender Benchmark, der verwendet wird, um das Wissen und die Problemlösungsfähigkeiten von KI-Modellen in 57 verschiedenen Fachgebieten wie Mathematik, Physik, Geschichte, Recht, Medizin und Ethik zu bewerten. Das Erreichen einer hohen Punktzahl signalisiert das breite allgemeine Verständnis und die Denkfähigkeit eines Modells, die für die Bewältigung komplexer sprachlicher Herausforderungen in der realen Welt entscheidend sind.

Die Gemini-Familie wurde in drei verschiedenen Größen vorgestellt, die für unterschiedliche Anwendungsfälle optimiert sind:

• Gemini Ultra: Das größte und leistungsfähigste Modell, das für hochkomplexe Aufgaben entwickelt wurde, die tiefes Denkvermögen und Kreativität erfordern. Hauptsächlich über den Gemini Advanced-Abonnementdienst zugänglich.
• Gemini Pro: Ein vielseitiges Modell, das ein starkes Gleichgewicht zwischen Leistung und Skalierbarkeit bietet und für eine breite Palette von Aufgaben geeignet ist. Es ist die Grundlage für das Standard-Gemini-Chatbot-Erlebnis und über eine API für Entwickler verfügbar.
• Gemini Nano: Das effizienteste Modell, optimiert für die direkte Ausführung auf Endbenutzergeräten wie Smartphones (z. B. für Funktionen auf Google Pixel-Telefonen und Gboard), das KI-Funktionen auf dem Gerät auch offline ermöglicht.

Alle Gemini-Modelle basieren auf einer Decoder-Only-Transformer-Architektur, ähnlich wie andere führende LLMs, und nutzen Googles umfassende Expertise in diesem Bereich. Sie wurden mit einem Kontextfenster von 32.768 Token angekündigt, wodurch sie erhebliche Informationsmengen auf einmal verarbeiten können. Ein wesentliches Unterscheidungsmerkmal ist ihre native Multimodalität, was bedeutet, dass sie von Anfang an mit verschiedenen Datentypen vortrainiert wurden, was ein ausgefeilteres, integriertes Verständnis im Vergleich zu Modellen ermöglicht, bei denen Modalitäten möglicherweise später hinzugefügt werden.

Die erste Version von Gemini zeigte fortschrittliche Fähigkeiten im Verständnis und der Generierung von hochwertigem Code in gängigen Programmiersprachen. Gemini Ultra zeichnete sich in mehreren Programmier-Benchmarks aus. Darüber hinaus zeigte AlphaCode 2, ein spezialisiertes System, das von Gemini angetrieben wird, eine bemerkenswerte Leistung im Wettbewerbs-Programmieren und ist in der Lage, komplexe Probleme zu lösen, die über Standard-Programmieraufgaben hinausgehen.

Gemini 1.0 wurde in großem Maßstab auf Googles KI-optimierter Infrastruktur unter Verwendung seiner proprietären Tensor Processing Units (TPUs) trainiert. TPUs sind kundenspezifische Hardwarebeschleuniger, die speziell für Machine-Learning-Workloads entwickelt wurden und sowohl für das Training großer Modelle wie Gemini als auch für deren Ausführung für Inferenz (Generierung von Antworten) erhebliche Effizienzvorteile bieten.

Die Einführung von Google Gemini 1.0 verschärfte den Wettbewerb, insbesondere die Position von Microsoft, das stark in OpenAIs GPT-Modelle investiert ist. Während Gemini unterschiedliche Merkmale wie native Multimodalität und verschiedene Modellgrößen bot, sah sich die anfängliche Einführung Herausforderungen gegenüber, darunter Kritik an Demonstrationsvideos und berichtete Probleme mit Chat-Funktionalitäten oder Sicherheitsvorkehrungen in bestimmten Sprachen oder Kontexten (wie z. B. später bei der Bilderzeugung), die die frühe Akzeptanz oder Wahrnehmung beeinträchtigt haben könnten.

Der Markt für generative KI-Tools in Produktionsumgebungen entwickelt sich noch, was Raum für Wettbewerb lässt. Microsoft hat einen erheblichen Vorteil durch sein etabliertes Entwickler-Ökosystem, die tiefe Integration von KI über GitHub Copilot in Visual Studio Code und die Nutzung seiner Azure-Cloud-Plattform. Google fehlt eine ähnlich dominante Entwicklerplattform oder IDE, was bedeutet, dass selbst wenn sich Gemini in bestimmten Programmierhilfeaufgaben als überlegen erweist, Microsofts integrierter Ansatz für viele Entwickler einen nahtloseren Workflow bieten könnte, was eine zentrale Herausforderung für Googles Marktdurchdringungsbemühungen darstellt.

Quelle:

• https://deepmind.google
• https://arxiv.org/pdf/2009.03300