Nightshade to narzędzie stworzone przez uniwersytet w ****Chicago, aby artyści mieli możliwość obrony swoich dzieł przed scrapowaniem przez AI ich artów ze stron internetowych. W założeniu narzędzie to ma za zadanie chronić copywrightowane treści przed AI.

Przykład zatrucia modelu:

Ilość zdjęć potrzebna do zatrucia modelu jest stosunkowo duża. Dla modeli typu chat GPT nawet 5000 zatrutych zdjęć to mało ponieważ wielkość ich “ciała” bez problemu wchłonie truciznę z minimalnymi skutkami ubocznymi. Natomiast modele uczące się od zera na zatrutych zdjęciach mogą łatwo zostać doszczętnie zniszczone.

Przykład:

Na początek należy pobrać program ze strony uczelnii. Link tutaj. Warto wspomnieć że pobieranie może zająć ok. 2h ponieważ uczelnia ma nałożony limit prędkości pobierania, a plik .zip ma, aż kilka GB.