註：本文不預設立場，寫作目標是讓大家思考生成式AI這項技術，與資訊時代輿論、演算法與新聞的關係。
一、關於新聞的真偽
許多人擔心，巴以衝突會成為世界上第一次在局勢升級的同時，還充斥著機器製造的假影像的戰爭，而社群媒體會成為第二個戰場。
不過，就目前看來，在社群媒體上流傳的所有圖片和影片中，人工智慧工具產生的內容還沒有成為主流。儘管許多專家認為，本次巴以衝突，人工智慧的角色會被放大，但目前還沒有做到能在資訊傳播中發揮核心作用的程度(Digital Forensic Research Lab-Layla Mashkoor)。
但是未來一旦技術成熟，如果再發生類似的衝突或是戰爭，又會怎麼樣呢？
二、生成式人工智慧與新聞真偽的思考
如果我們跳出本次巴以衝突事件，去思考更多「資訊」帶給人類的影響。就筆者個人經驗而言（2019年秋，筆者在香港讀書，親眼目睹了新聞資訊對人們思維的影響），未來時代，辯證地思考生成式AI這項技術，和這些內容對社會的作用，無疑是非常重要的。
近期，哈佛大學甘迺迪學院《Misinformation Review》發表了一篇論文，探討了生成式人工智慧在全球假訊息傳播中扮演的潛在角色。從理論上講，生成式人工智慧可以讓人們以飛快的速度傳播虛假訊息，但願意相信虛假訊息的人——通常是那些”對機構信任度低」或”本身就有強烈傾向”的人，且已經有大量耳熟能詳的假資訊可供選擇。
生成式人工智慧系統，能夠透過對大量訓練資料進行機器學習來產生新形式的資料。這種新數據可以包括文字（如Google的Bard、Meta 的LLaMa 或OpenAI 的ChatGPT）、視覺（如Stable Diffusion 或OpenAI 的DALL-E）或音訊。根據不同的指令，這些系統可以為大多數使用者快速、輕鬆地產生輸出內容，其複雜程度足以讓人類認為這些內容與人類生成的內容無異。
包括一些領先的人工智慧研究人員都認為，生成式人工智慧，將使大規模創造逼真但虛假或誤導性的內容變得更容易，具體問題可分為四類。
1. 偽造資訊數量增加：由於易於取得和使用，生成式人工智慧可用於大規模製造錯誤/虛假訊息，對個人和有組織的行為者來說幾乎不需要任何成本。錯誤訊息數量增加使得居心不良的行為者可以用錯誤或誤導性資訊”充斥整個區域”，從而淹沒事實內容和/或製造混亂。
2. 容易誤導資訊的品質提升：由於人工智慧的技術能力和易用性，生成式人工智慧可用於製造更高品質的誤導資訊提高誤導資訊的品質可增加其說服力，因為它製造的內容更可信、更難揭穿或驗證。這要么會導致虛假資訊的傳播，要么會（隨著錯誤訊息數量的增加）導致認識危機，即用戶對所有類型的新聞普遍失去信任。
3. 錯誤訊息的個人化程度提高：生成型人工智慧可以產生有用的內容（例如，聊天機器人產生程式碼）。然而，它們也能產生看似可信、實質完全不準確的資訊。因此，用戶可以在無意中產生錯誤訊息，而錯誤訊息有可能傳播誤導消費者的訊息。
4. 非自願產生似是而非的假訊息：生成型人工智慧可以產生有用的內容（如聊天機器人產生程式碼）。然而，它們也能產生看似可信、實質完全不準確的資訊。因此，用戶可能無意中產生錯誤訊息，而這些錯誤訊息有可能傳播給使用生成式AI工具的用戶，也有可能傳播給與他們分享訊息的人。
三、提升辨證思考能力，怎麼辨識假新聞？
我問了一下ChatGPT怎麼辨識假新聞，它是這麼說的：
識別假新聞是一個複雜的過程，因為製造假新聞的技術和方法不斷進步。以下是一些幫助你辨識假新聞的方法：
-
檢查來源: 查看發布新聞的網站或媒體是否可靠。查看它的域名，是否使用了模仿知名媒體的域名。同時，查看該網站是否有聯絡方式，版權聲明等正式的資訊。
-
核實內容: 檢查新聞報導中的事實資訊。你可以使用搜尋引擎，查看其他可靠媒體是否也報導了同樣的新聞。
-
注意作者: 查看作者的其他文章，看看他們是否有發布虛假或誤導性內容的歷史。
-
檢查圖片和影片: 有時候，假新聞會使用經過修改的圖片或影片。你可以使用反向圖片搜尋工具，查看這些圖片或影片是否在其他地方以不同的上下文出現過。
-
分辨言語: 假新聞通常會使用煽動性或極端化的言語來吸引讀者的注意。
-
檢查時間軸: 確認事件的時間線是否合理，有時候假新聞會故意扭曲時間線來製造誤導。
-
查看來源連結: 假新聞通常不會提供可靠的來源鏈接，或連結到不相關或同樣可疑的網站。
-
檢查評論: 查看其他讀者的評論，有時他們會指出新聞中的錯誤或提供更多資訊。
-
留意專家意見: 假新聞往往會引用不存在或不可靠的專家意見。你可以搜尋所引用的專家，看看他們是否真的存在，以及他們的背景是否可靠。
-
保持懷疑態度: 對任何看似異常或誇張的新聞保持懷疑態度，特別是當它激起強烈情緒時。
記住，即使是真實的新聞來源也可能偶爾會犯錯。關鍵是要有批判性的思維，不要輕信任何未經驗證的資訊。
其他方法：
科瓦奇和羅森斯蒂爾在《真相》一書中向公眾提出了六項必備的“新聞素養”，需要多問自己幾個問題：
1. 我碰到的是什麼內容？
2. 資訊完整嗎？假如不完整，缺了什麼？
3. 資訊來源是誰/什麼？我為什麼要相信他們？
4. 提供了什麼證據？是怎樣檢驗或核實的？
5. 其他可能性解釋或理解是什麼？
6. 我有必要知道這些資訊嗎？
參考資料：
1.Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown | HKS Misinformation Review (harvard.edu)
2.《真相－資訊超載時代如何知道該相信什麼》
3.Generative AI Is Playing a Surprising Role in Israel-Hamas Disinformation | WIRED
