Google在周三表示，將在其AI模型生成的圖像中嵌入一種稱為標記（markup）的信息，以警告人們這些圖像最初是由電腦創建的。
圖像內部的數據對人眼是不可見的，但軟件（如Google搜索）可以讀取它，並顯示警告標籤給用戶。Google還將提供有關其搜索結果中所有圖像的額外信息，以幫助防止欺騙行為，包括圖像首次上傳到搜索引擎的時間以及是否被新聞網站引用過。
Google提供的一個示例警告是：“圖像自標記為AI生成”。
這一舉措是迄今為止大型技術公司最重要的一項努力，旨在標記和分類所謂生成式AI的輸出。官員和技術工作者警告稱，這種技術生成逼真的圖像或流暢的文本，可能會幫助垃圾郵件發送者、詐騙者和宣傳者欺騙人們。
例如，最近在Midjourney應用程序上生成的教宗方濟各穿著時尚冬季外套的圖像在網絡上瘋傳，並讓一些人以為它是真實的。
AI行業面臨的一個問題是沒有可靠的方法來確定生成的圖像。雖然通常有一些線索，例如畫得不好的手，但沒有一種明確的方式來區分哪些圖像是由電腦生成的，哪些是由人手繪或拍攝的。
Google的方法是在AI系統生成圖像時對其進行標記，而不是後來嘗試確定它們是否真實。Google表示Shutterstock和Midjourney將支持這種新的標記方法。Google的開發人員文檔說，標記可以將圖像分類為訓練算法媒體（由AI模型生成的圖像），部分由AI模型製作的合成圖像，或由電腦生成但不基於訓練數據的算法媒體。
Google在週三舉行了年度開發者大會，宣布推出一款售價1,799美元的可折疊手機，並為其他Google產品增加了額外的AI功能，包括圖像生成器。
About The Author
