搜尋此網誌

2026年5月30日 星期六

主動洗腦—把自己的大腦先清乾淨之七

        接續上一篇文章,即使是AI模型本身,也同樣會受到這樣的衝擊。以為將上千萬本書的內容通通都納進資料庫的內容中就萬無一失了嗎?如果有大量不實資料為AI所納入,就有可能讓AI所生成的資料失去正確性。而且這些資料的產生,並不一定是因為人類的惡意所產生的。例如某公司為了宣傳A產品的好,增加銷量以獲取利潤,因此大量的製造對於A產品正面的訊息。

        這家公司的出發點是為了宣傳產品,卻因此讓AI誤以為A產品的評價好到可以堆上宇宙那麼高了。因此,即使是AI,也同樣會受到不實資訊的影響,這也是之後會面臨到的問題。畢竟現在AI所收納的大部分是人類的心血結晶,是乾淨的資料。但拜AI生成速度日益增快所賜,如果每天都有幾萬字不實資料冒出頭來,那這樣會對於網路資料造成什麼影響?

         當然,AI會回答說,這就跟生成小說一樣,首先有大比重會參考名家風格,而不會受到一般沒有名氣但量超大的小說家風格所影響。但是實際上到底怎樣分配比重,其實只有AI自己知道。大方向上當然會選擇相信AI,而實際上卻也無從完全的分辨其內容的正確與真實性。


沒有留言:

張貼留言