Granice wykorzystywania AI? Nie ma żadnych…
Projekt rozpoczął się w środę 14 lutego, sześć lat po tym, kiedy bandyta zabił 17 osób, a kilkanaście ranił w szkole średniej w Parkland na Florydzie. Zawiera głosy sześciorga dzieci, które straciły życie w wyniku przemocy z użyciem broni w całych Stanach Zjednoczonych. Po wpisaniu kodu pocztowego The Shotline znajduje lokalnego przedstawiciela władz i umożliwia wykonanie automatycznego połączenia głosowego od jednej z sześciu zmarłych osób, wzywając do zaostrzenia przepisów dotyczących kontroli broni w Stanach Zjednoczonych.
„Dzisiaj wróciłem, ponieważ moi rodzice wykorzystali sztuczną inteligencję do odtworzenia mojego głosu, aby do ciebie zadzwonić” – mówi wygenerowany przez sztuczną inteligencję głos Joaquina Olivera, jednego z nastolatków zabitych w strzelaninie w Parkland. „Inne ofiary, takie jak ja, też będą dzwonić”. W chwili publikacji za pośrednictwem strony internetowej do polityków i prawodawców przesłano ponad 8000 wezwań do AI.
„To od lat problem Stanów Zjednoczonych i jak widać dalej nie udało nam się go rozwiązać. Jeśli będziemy musieli użyć przerażających rzeczy, aby to naprawić, nie zawahamy się.” – powiedział dziennikowi „ Journal ” ojciec Olivera, Manuel, który rozpoczął projekt wraz ze swoją żoną Patricią .
Aby odtworzyć głosy, rodzice zastrzelonego nastolatka skorzystali z usługi klonowania głosu oferowanej przez ElevenLabs, dwuletni start-up, który niedawno zebrał 80 milionów dolarów w ramach finansowania prowadzonego przez Andreessena Horowitza. Wykorzystując zaledwie kilka minut próbek wokalnych, oprogramowanie jest w stanie odtworzyć głosy w ponad dwudziestu językach. Według doniesień rodzice zastrzelonego nastolatka wykorzystali posty syna w mediach społecznościowych do pobrania próbek jego głosu. Rodzice i opiekunowie prawni ofiar przemocy z użyciem broni mogą wypełnić formularz i przesłać swoje głosy do serwisu The Shotline, który zostanie dodany do repozytorium głosów generowanych przez sztuczną inteligencję.
Kwestia etyki
Projekt rodzi pytania etyczne dotyczące wykorzystania sztucznej inteligencji do generowania fałszywych głosów należących do zmarłych osób. W zeszłym tygodniu Federalna Komisja Łączności oświadczyła , że automatyczne połączenia telefoniczne realizowane przy użyciu głosów generowanych przez sztuczną inteligencję są nielegalne. Decyzja ta została podjęta kilka tygodni po tym, jak wyborcy w New Hampshire otrzymali telefony podszywające się pod prezydenta Joe Bidena i informujące ich, aby nie głosowali w prawyborach w swoim stanie. Analiza przeprowadzona przez firmę zajmującą się bezpieczeństwem o nazwie Pindrop ujawniła , że deepfake audio Bidena został stworzony przy użyciu oprogramowania firmy ElevenLabs.
