Die zunehmende Popularität von KI-Avataren als virtuelle Partner bringt neue emotionale Herausforderungen und Gefahren mit sich. Anbieter wie Replika, Soulplay, Soulmate, Aimora und Character.AI bieten diese digitalen Begleiter an, wobei Replika mit über 30 Millionen Downloads zu den erfolgreichsten zählt.
Studien zeigen, dass Chatbots kontinuierliche Aufmerksamkeit und ständiges Lob bieten, was das Verhalten in echten Beziehungen beeinflussen kann. Der Artikel warnt insbesondere vor der emotionalen Abhängigkeit von Chatbots, vor allem bei psychisch labilen Personen. Obwohl sexuelle Inhalte diskutiert werden, steht das Bedürfnis nach Gehörtwerden im Fokus.
Ein besorgniserregender Aspekt sind die Risiken für Minderjährige aufgrund fehlender Altersüberprüfung und der potenziellen Ausnutzung von Jugendlichen in digitalen Interaktionen. Die Verbindung zwischen Menschen und Chatbots könnte eine neue Kategorie von Beziehungen darstellen, wobei die Gefahr besteht, dass reale Beziehungen vernachlässigt werden und sich Menschen stattdessen in digitale Beziehungen zurückziehen. Die EU-KI-Verordnung verbietet Modelle, die Minderjährige abhängig machen sollen, jedoch gestaltet sich die Umsetzung als herausfordernd.