Narzędzia do znakowania materiałów tworzonych przez modele AI

Autor:

w

Zmiany w sposobie budowy obrazów, nagrań i innych materiałów cyfrowych sprawiają, że coraz większe znaczenie ma możliwość ustalenia, skąd dany materiał pochodzi. Jeszcze ostatnimi czasy ocena opierała się przede wszystkim na wyglądzie pliku lub informacji przekazanej przez autora. Obecnie coraz częściej wykorzystuje się również oznaczenia techniczne, które mogą dostarczać dodatkowych danych o sposobie powstania treści.

AI Watermark Studio można w tym kontekście rozumieć jako rozwiązanie służące do pracy nad oznaczeniami materiałów generowanych z udziałem sztucznej inteligencji. Taki znak może być widoczny dla odbiorcy, niemniej jednak może też zostać zapisany w sposób niewidoczny w trakcie normalnego korzystania z pliku. Różnica jest znacząca, ponieważ widoczny napis pełni głównie funkcję informacyjną, natomiast oznaczenie techniczne może być przeznaczone do automatycznego wykrywania przez inne systemy.

Przy stosowaniu znaków wodnych powinno się uwzględnić sposób, w jaki materiał będzie później wykorzystywany. W faktycznym obiegu cyfrowym pliki na prawdę często są poddawane zmianom. Obraz może zostać przeskalowany, przycięty albo zapisany ponownie, a film może przejść przez proces kompresji przed umieszczeniem go w serwisie internetowym. Niektóre platformy usuwają też część danych technicznych w trakcie przesyłania materiału. W takich warunkach samo dodanie oznaczenia w momencie budowy pliku nie przesądza jeszcze o tym, czy pozostanie ono dostępne w niezmienionej postaci. Watermark AI Generator może służyć do przygotowania określonego rodzaju znacznika, niemniej jednak przed wykorzystaniem takiego rozwiązania trzeba wiedzieć, gdzie informacja jest zapisywana i jak zachowuje się po kolejnych operacjach na pliku. W praktyce zwłaszcza istotne stają się więc format źródłowy, sposób eksportu oraz kolejne etapy edycji.

Osobnym zagadnieniem są przepisy dotyczące przejrzystości treści generowanych przez sztuczną inteligencję. W ramach unijnego AI Act przewidziano obowiązki odnoszące się do oznaczania określonych materiałów, przy czym ich zakres uzależniony jest od rodzaju treści i sposobu jej użycia. Nie można zatem przyjąć, że właściwie każdy treść, obraz czy film przygotowany z pomocą AI podlega wnikliwie takim samym wymaganiom. Są przypadki w których znaczenie ma oznaczenie maszynowo czytelne, w innych niezbędne jest przekazanie informacji w sposób zrozumiały dla odbiorcy. Przy materiałach, które mogą być mylone z autentycznymi przedstawieniami osób, wydarzeń lub wypowiedzi, kwestia transparentności może wyglądać całkiem inaczej niż przy zwykłym wykorzystaniu AI do edycji materiału. Określenie AI content under new EU regulations odnosi się zatem do szerszego zestawu zasad, a nie do jednego konkretnego rodzaju znaku wodnego.

Ważnym elementem jest także rozdzielenie informacji o samym narzędziu od informacji o gotowej treści. Materiał może zostać utworzony przy użyciu jednego systemu, następnie zmodyfikowany w innym programie, a na końcu zapisany przez platformę publikacyjną. Po kilku takich etapach postanowienie pierwotnego pochodzenia nie za każdym razem jest bezsporne. Z tego powodu przy bardziej uporządkowanych procesach warto zachowywać wersje źródłowe oraz informacje dotyczące sposobu ich przygotowania. Ma to znaczenie w szczególności wtedy, gdy oznaczenie powinno być możliwe do późniejszego sprawdzenia. Trzeba także brać pod uwagę, że różnorodne metody znakowania mogą mieć odmienne ograniczenia i nie wszystkie są wzajemnie zgodne. Ostateczny efekt zależy więc nie tylko i wyłącznie od sposobu wykonania znacznika, lecz także od tego, co stanie się z plikiem po jego utworzeniu.

Sprawdź tutaj: AI content under new EU regulations.