Del av bevakningen: Apple tar bort AI-appen 'nudify' efter Meta-annonsering
Apple har tagit bort AI-appen 'nudify' från App Store efter att Meta annonserade för den, där appen möjliggjorde skapandet av pornografiska deepfakes av verkliga personer.
En åklagare i San Francisco har krävt att Apple och Google tar bort 13 AI-appar som genererar icke-samtyckta nakenbilder. Appar som marknadsförs för ansiktsbyte används för att skapa explicita bilder, vilket åklagaren anser är olagligt. Båda företagen har tidigare tagit bort liknande appar för policyöverträdelser.
Deepfake-appar för icke-samtyckande pornografi finns lättillgängliga i App Store, trots att Apple tidigare tagit bort 28 sådana appar. En rapport visar att dessa verktyg fortfarande annonseras i sökresultat.
Apple hotade att ta bort Grok-appen från App Store om xAI inte stoppade skapandet av sexualiserade deepfakes. Efter krav på förbättrad innehållsmoderering godkändes appen till slut.
Meta har annonserat för Kromix, ett AI-verktyg som genererar pornografiska bilder av kvinnliga politiker, trots företagets policyer mot sådant innehåll. Appen har tidigare funnits på Apples App Store.