Generatywna sztuczna inteligencja potrafi tworzyć niezwykle realistyczne materiały wideo, które trudno odróżnić od prawdziwych. Podobnie narzędzia imitujące głosy lub animujące twarze. To wszystko stwarza olbrzymie pole do manipulacji i dezinformacji. Aby zawczasu zapobiegać potencjalnie negatywnym konsekwencjom, YouTube postanowił podjąć konkretne kroki.
YouTube każe twórcom oznaczać treści wygenerowane przez sztuczną inteligencję
W oficjalnym wpisie przedstawiciele platformy ogłosili, że na twórcach spoczywa teraz obowiązek zaznaczenia, jeśli ich film zawiera realistycznie wyglądającą lub brzmiącą treść, wygenerowaną przez sztuczną inteligencję bądź zmodyfikowaną przy użyciu innych narzędzi.
Wybranie odpowiedniej opcji podczas publikacji materiału pozwala serwisowi na właściwe oznaczenie go i tym samym uświadamianie widzów, że to, co oglądają, nie jest autentyczne. YouTube podaje trzy przykłady treści, które muszą być kategoryzowane w ten sposób:
- realistyczne zastępowanie twarzy lub syntetyczne generowanie głosu danej osoby (tzw. deepfake),
- realistyczne modyfikowanie materiału filmowego przedstawiającego prawdziwe wydarzenia lub miejsca (np. sugerowanie, że jakiś prawdziwy budynek płonie),
- realistyczne generowanie scen (przy użyciu sztucznej inteligencji i narzędzi renderujących).
Równocześnie oznaczania nie będą wymagały materiały zawierające ewidentnie nierealistyczne elementy (przedstawiające jednorożce czy fantastyczne krainy), treści ze zmodyfikowany kolorami oraz filmy z efektami specjalnymi typu rozmycie tła czy też filtrami upiększającymi.
Ważne, nawet jeśli nie doskonałe
Moim zdaniem tego typu systemy są jak najbardziej potrzebne. Niemniej trudno nie zauważyć, że w obecnej formie nie są one niezawodne. Przede wszystkim opierają się na deklaracji samego użytkownika, który może przecież celowo wprowadzać w błąd. Po drugie: zostało pozostawione pewne pole do interpretacji. Wszak jedna osoba może uznać coś za realistyczne, a dla innej będzie to ewidentny fejk.
Niemniej nawet pomimo tego, każde działanie podjęte w tym celu, by zmniejszyć ryzyko dezinformacji, jest krokiem postawionym we właściwym kierunku. Właściciele serwisu podkreślają ponadto, że początkowo będą starali się podpowiadać twórcom, jeśli ci nie będą odpowiednio oznaczać materiałów. Dopiero konsekwentne omijanie tych zasad będzie skutkowało karami, takimi jak usunięcie filmu czy nawet zawieszenie udziału w programie partnerskim.
Możliwość oznaczania treści u twórców pojawiła się już teraz. Odpowiednie etykiety dla widzów z kolei zaczną się ukazywać się w nadchodzących tygodniach. Najpierw na smartfonach i tabletach, a następnie także na komputerach i telewizorach.
