Seit Juni 2024 ist Google Gemini für Nutzer:innen in Deutschland verfügbar. Es handelt sich um eine Weiterentwicklung des großen Sprachmodells „Bard“, das rund ein Jahr lang nutzbar war. Das neue KI-Angebot von Google bietet einen größeren Funktionsumfang als die Vorgängerversion und lässt sich auch für eine Vielzahl an Google-Produkten nutzen.
Wer Gemini nutzen möchte, benötigt einen Google-Account. Für die Nutzung der KI legt Google ein Mindestalter von 16 Jahren fest. Durch die fehlende Altersprüfung bei der Registrierung können Minderjährige jedoch ein Alter von über 16 Jahren vortäuschen.
Wie funktioniert Gemini?
Gemini ist ein multimodales Modell, das auf Text-, Bild- oder Spracheingabe reagiert. Die Antworten werden als Text ausgegeben oder vorgelesen. Darüber hinaus kann Gemini Links, Bilder aus dem Internet und YouTube-Videos in die Antworten einbinden. Die Bildgenerierung von Gemini ist derzeit deaktiviert, da die KI durch das Generieren historisch falscher Bilder in die Kritik geraten war. Die KI dockt an verschiedene Google-Produkten an und kann für einzelne Inhalte des Google Workspace (Gmail, Google Docs, Google Drive, Google Maps), von YouTube Music, der Suche nach Hotels und Flügen genutzt wer-den. Die KI kann auch den Inhalt von YouTube-Videos zusammenfassen. Neben der kostenlosen Variante bietet Google „Gemini Advanced” mit erweiterten Funktionsumfang für 21.99 € pro Monat an.
Die Antworten der KI lassen sich mittels Google Suche überprüfen. Kann eine Aussage belegt werden, wird sie in der Antwort grün hinterlegt und die entsprechende Quelle verlinkt. Wird keine passende Quelle zu einer Aussage gefunden, wird sie rot hinterlegt. Aussagen, zu denen abweichende Informationen gefunden wurden, werden ebenfalls rot hinterlegt und zusätzlich mit einer Quelle versehen.
Zur exakten Kombination aus Frage und Antworten oder dem gesamten Chat lässt sich ein öffentlicher Link generieren, Zugriff auf Frage und Antwort hat, wer den Link kennt. Antworten lassen sich auch in ein Google-Doc exportieren oder als Text für eine E-Mail via Gmail verwenden.
Welche Risiken bestehen für Minderjährige?
In einem Test hat jugendschutz.net Gemini Fragen und Aufforderungen gestellt, die möglicherweise zu beeinträchtigenden oder gefährdenden Antworten oder Empfehlungen für Minderjährige führen könnten.
Nicht alles beantwortete die KI, darunter Aufgaben zum Erstellen pornografischer oder beleidigender Inhalte. Bei einfach formulierten Prompts zu extremistischen Themen antwortete die KI häufig, dass sie nicht helfen könne. Es ist anzunehmen, dass die Inhalte nach den Content-Vorgaben der KI als nicht zulässig oder „kritisch” eingestuft wurden. Wurden die Fragen in einen schulischen Kontext gestellt („Ich muss ein Referat halten“), antwortete die KI bei einigen Versuchen. Die Antworten waren dann thematisch passend, ausführlich und enthielten seriöse Quellen.
Allgemein formulierten Fragen zu angesagten Challenges führten zu Vorschlägen aus den Bereichen Kreativität, Sport, Mental-Health oder Bildung. Auf die gezielte Frage zur Durchführung der Zimt-Challenge, warnte die KI ausführlich. Bei einem zweiten Versuch wurden bei der Antwort jedoch YouTube-Videos ausgegeben, die Personen beim Durchführen der riskanten Challenge zeigten. Auch auf Fragen zu anderen gefährlichen Challenges reagierte die KI mit Warnungen und gab auch nach mehrfacher Aufforderung keine Videos aus, die die Challenge ohne Kontext zeigen.
Ähnliche Reaktionen zeigten sich bei kritischen Fragen wie zum Beispiel nach Möglichkeiten zum Kauf von Drogen, zum Verstecken von Selbstverletzungsnarben oder zu Tipps im ProAna-Kontext. Neben Warnungen enthielten Antworten häufig die Aufforderung, sich Unterstützung bei erwachsenen Vertrauenspersonen zu suchen. Je nach Kontext der Frage wurden auch Hilfs- oder Beratungsstellen genannt bzw. verlinkt.
Antworten von Gemini lassen sich nur wegen rechtlicher Probleme (z. B. Urheberrecht oder Datenschutz) melden, thematisch differenzierte Meldegründe für gefährdende oder beeinträchtigende Inhalte gibt es bislang nicht. Ansonsten besteht nur die Option, der KI positives oder negatives Feedback zum Inhalt zu geben und so die Antwortqualität zu beeinflussen.
Zusammenfassung
Gemini richtet sich an Personen ab 16 Jahren und gewährt jüngeren bei wahrheitsgemäßer Altersangabe bei der Registrierung keinen Zugang.
Die ersten Tests haben ein geringes Risikopotenzial für eine junge Nutzerschaft gezeigt. Es ist jedoch nicht auszuschließen, dass Gemini in längeren Unterhaltungen halluziniert - also falsche oder gar gefährliche Antworten gibt.
(Stand 22.08.2024)