撰文：Ziv Epstein（麻省理工學院）, Aaron Hertzmann（Adobe Research）, The Investigators Of Human Creativity（Adobe）
來源：Science
圖片來源：由無界AI工俱生成
了解創意工作的轉變將有助於指導AI 對媒體生態系統的影響。
生成式人工智能（AI）是一個備受爭議的話題。迄今為止，一個突出的應用是為視覺藝術、概念藝術、音樂和文學，以及視頻和動畫製作高質量的藝術媒體。例如，擴散模型可以合成高質量的圖像（1），大型語言模型（LLMs）可以在廣泛的背景下產生聽起來合理、令人印象深刻的散文和詩句（2）。這些工具的生成能力可能會從根本上改變創作者形成想法並將其投入生產的創造性過程。隨著創造力被重新想像，社會的許多領域也可能被重新構想。了解生成式AI 的影響，並圍繞它做出政策決定，需要對文化、經濟、法律、算法以及技術和創造力的互動進行新的跨學科科學調查。
變革的時刻並沒有表明“藝術的終結”，而是產生了更為複雜的影響，重新塑造了創作者的角色和實踐，並改變了當代媒體的美學（3）。例如，一些19 世紀的藝術家將攝影的出現視為對繪畫的威脅。然而，攝影並沒有取代繪畫，而是最終將其從現實主義中解放出來，產生了印象派和現代藝術運動。相比之下，肖像攝影確實在很大程度上取代了肖像畫。同樣，音樂製作的數字化（例如，數字採樣和聲音合成）被譴責為“音樂的終結”。但實際上，它改變了人們製作和聆聽音樂的方式，並幫助產生了新的流派，包括嘻哈和貝斯鼓。就像歷史上這些類似的情況一樣，生成性AI 並不是藝術消亡的預兆，而是一種新的媒體，有它自己獨特的能力。作為人類創作者使用的一套工具，生成性AI 的定位是顛覆創意產業的許多領域，並在短期內威脅到現有的工作和勞動模式，同時最終實現新的創意勞動模式並重新配置媒體生態系統。
然而，與過去的顛覆不同，生成式AI 依賴於人們所做的訓練數據。這些模型通過從現有藝術媒體中提取統計模式來“學習”生成藝術。而這種依賴也帶來了新的問題— 例如數據的來源，如何影響輸出，以及如何確定作者身份。通過利用現有的工作來實現創作過程的自動化，生成性AI 挑戰了作者身份、所有權、創作靈感、採樣和重新混合的傳統定義，從而使現有的媒體製作概念變得複雜。因此，考慮生成性AI 對美學和文化的影響、所有權和信用的法律問題、創意作品的未來，以及對當代媒體生態系統的影響是很重要的。在這些主題中，有一些關鍵的研究問題可以為政策和這項技術的有益使用提供參考（4）。
關於“人工智能”
為了正確研究這些主題，首先需要了解用於描述人工智能的語言如何影響對該技術的看法。 “人工智能”這個詞可能會誤導人們，暗示這些系統表現出類似人類的意圖、能動性，甚至是自我意識。生成式AI 模型基於自然語言的界面，包括使用“我”的聊天界面，可能會給用戶一種類似與人類互動的感覺。這些感知會破壞創造者的信譽，而創造者的勞動是系統產出的基礎（5），並且當這些系統造成傷害時，會轉移開發者和決策者的責任（6）。未來的工作需要了解對生成過程的看法如何影響對產出和作者的態度。這將有助於設計披露生成過程的系統，避免誤導性的解釋。
生成式AI 與美學
生成式AI 的特殊能力反過來產生了新的美學，可能對藝術和文化產生長期影響。隨著這些工具的普及，以及它們的使用變得普遍（就像一個世紀前的攝影一樣），它們產出的美學將如何影響藝術產出仍然是一個開放的問題。生成式AI 的低門檻可以通過擴大參與藝術實踐的創作者群體來增加藝術產出的整體多樣性。同時，嵌入在訓練數據中的審美和文化規範及偏見可能會被捕捉、反映，甚至放大，從而減少多樣性（7）。 AI 產出的內容也可能為未來的模型提供素材，創造一個自我參照的審美飛輪，使AI 驅動的文化規範得以延續。未來的研究應該探索量化和增加輸出多樣性的方法，並研究生成式AI 工具如何影響美學和審美多樣性。
社交媒體平台的不透明、參與度最大化的推薦算法可以通過反饋迴路（8）進一步強化審美規範，產生轟動性的，可分享的內容。由於算法和內容創作者試圖最大化參與度，這可能會進一步使內容同質化。然而，一些初步的實驗（9）表明，在策劃AI 生成的內容時納入參與度指標，在某些情況下，可以使內容多樣化。至於哪些風格會被推薦算法放大，以及這種優先次序如何影響創作者製作和分享的內容類型，仍然是一個開放的問題。未來的工作必須探索生成模型、推薦算法和社交媒體平台之間的相互作用所形成的複雜、動態系統，以及它們對美學和概念多樣性的影響。
生成式AI 與版權
生成式AI 依靠訓練數據來實現創作的自動化，這在法律和倫理上也提出了挑戰，需要促使對這些系統的性質進行技術研究。版權法必須平衡創作者、生成式AI 工具的使用者和整個社會的利益。如果受保護的作品沒有被直接複製，法律可以將訓練數據的使用視為非侵權行為；如果訓練涉及基礎數據的實質性轉變，則視為公平使用；只有在創作者給予明確許可的情況下才允許使用；或者在創作者得到補償的情況下，允許將數據用於訓練的法定強制許可。大部分版權法都依賴於司法解釋，所以目前還不清楚收集第三方數據進行訓練或模仿藝術家的風格是否會違反版權。法律和技術問題是糾纏在一起的：模型是直接複製訓練數據中的元素，還是產生全新的作品？即使模型不直接複製現有作品，也不清楚藝術家的個人風格是否應該得到保護，以及如何保護。什麼樣的機制可以保護和補償那些作品被用於訓練的藝術家，甚至允許他們選擇退出，同時仍然允許用生成式AI 模型做出新的文化貢獻？回答這些問題並確定版權法應如何對待訓練數據，需要大量的技術研究來開發和了解AI 系統，需要社會科學研究來了解對相似性的看法，還需要法律研究來將現有的先例應用於新技術。當然，這些觀點只代表美國的法律觀點。
一個明顯的法律問題是，誰可以對模型的產出提出所有權要求。要回答這個問題，需要了解系統的用戶與其他利益相關者的創造性貢獻，如係統的開發者和訓練數據的創造者。 AI 開發者可以通過使用條款要求對產出的所有權。相比之下，如果系統用戶以有意義的創造性方式參與其中（例如，該過程不是完全自動化的，或者沒有模仿特定的作品），那麼他們可能被認為是默認的版權持有人。但是，用戶的創造性影響到達到何種程度才能主張所有權？這些問題涉及研究使用基於AI 的工具的創作過程，如果用戶獲得更多的直接控制權，可能會變得更加複雜。
生成式AI 與創造性職業
無論法律結果如何，生成式AI 工具都有可能改變創造性工作和就業。流行的經濟理論 [即以技能为导向的技术变革（SBTC）] 假定，認知型和創意型工人面臨自動化帶來的勞動中斷較少，因為創造力不容易被編碼成具體的規則（即波蘭尼的悖論）(10)。然而，新的工具已經引發了對創造性職業的就業擔憂，如作曲家、平面設計師和作家。這種衝突的產生是因為SBTC 未能區分認知活動，如分析性工作和創造性構思。我們需要一個新的框架來描述創意過程的具體步驟，其中哪些步驟可能受到生成式AI 工具的影響，以及對不同認知職業的工作場所要求和活動的影響（11）。
雖然這些工具可能會威脅到一些職業，但它們可以提高其他職業的生產力，或許還可以創造新的職業。例如，從歷史上看，音樂自動化技術使更多的音樂家能夠進行創作，即使收入有所傾斜（12）。生成式AI 系統可以每分鐘創造數百個輸出，這可能會通過快速構思加速創造過程。然而，這種加速也可能破壞創造力的各個方面，因為它消除了從頭開始塑造最初原型的設計期。在任何一種情況下，生產時間和成本都可能下跌。創造性產品的生產可能會變得更有效率，在更少的人工下獲得相同的產出。反過來，對創造性工作的需求可能會增加。此外，許多使用傳統工具的僱傭職業，如插圖或股票攝影，可能會被取代。一些歷史例子證明了這一點。最值得注意的是，工業革命使傳統的手工藝（如陶瓷、紡織品和煉鋼）能夠通過非工匠的勞動進行大規模生產；手工製作的商品成為了特殊物品。同樣地，攝影取代了肖像畫。音樂的數字化消除了學習物理操作樂器的限制，使更多的貢獻者能夠進行更複雜的編排。這些工具可能會改變誰能成為藝術家的狀況，在這種情況下，即使平均工資下跌，藝術家的就業也可能上漲。
生成式AI 與媒體生態
由於這些工具影響了創造性勞動，它們也給更廣泛的媒體生態系統帶來了潛在的下游危害。隨著規模化生產媒體的成本和時間的減少，媒體生態系統可能會因合成媒體的創建而變得容易受到AI 生成的錯誤信息的影響，尤其是為聲明提供證據的媒體（13）。這些生成逼真的合成媒體的新可能性可能會通過所謂的“說謊者的紅利”（虛假內容通過破壞對真相的信任而使說謊者受益）破壞對真實捕獲媒體的信任（14) 並增加欺詐和非自願性圖像的威脅。這就提出了重要的研究問題：平台干預措施，如跟踪源頭出處和檢測下游的合成媒體在治理和建立信任方面的作用是什麼（15）？而合成媒體的擴散如何影響對真實媒體的信任，如未經編輯的新聞照片？隨著內容生產的增加，集體注意力可能會減少（16）。 AI 生成內容的爆炸反過來可能會阻礙社會在氣候和民主等重要領域進行集體討論和採取行動的能力。
每種藝術媒體都反映和評測其時代的問題，圍繞當代AI 生成的藝術的辯論反映了目前圍繞自動化、企業控制和注意力經濟的問題。最終，我們通過藝術來表達我們的人性，所以理解和塑造AI 對創造性表達的影響是關於其對社會影響的更廣泛問題的中心。對生成式AI 的新研究應該為政策和技術的有益使用提供信息，同時與關鍵的利益相關者接觸，特別是藝術家和創造性勞動者本身，他們中的許多人是積極參與解決社會變革難題的先鋒。
譯者註：文中設計16 處註釋，相關閱讀可參看原文
資訊來源：由0x資訊編譯自8BTC。版權歸作者所有，未經許可，不得轉載