人工智能可能改變金融部門。越來越多的投資公司依賴人工智能來分析和選擇要買賣的證券。許多人也使用AI系統進行實際的購買和出售資產的過程。
近年來,人工智能技術快速創新。人工智能現在出現在各種不同的行業中,越來越多的公司正在試驗將AI系統納入其業務運營中,以提高效率,擴大覆蓋範圍或擴大其產品和服務範圍。
此外,AI在公眾眼中的地位也比以往任何時候都更加突出:微軟100億美元對OpenAI的投資,這家公司在2022年底推出的聊天機器人ChatGPT以及這個AI系統所引起的風潮,都是AI優勢的最新證據。
但是,隨著AI的不斷擴散,在範圍上變得更加廣泛和強大,它也帶來了各種危險,從小到大,甚至可能是生存威脅。
當然,並非所有這些危險都同等可能,但它們仍然是對這項新技術謹慎的理由。
以下是對AI許多危險的更細致的研究。
Deepfake是一種令人信服的,計算機生成的人工圖像或視頻。Deepfake這個詞可能起源於AI相關的“深度學習”一詞,這是一些AI系統分析大量數據以自我訓練和學習的過程。
Deepfakes是近年來出現的一個問題。許多深度學習包含名人的圖像或視頻,但它們也可以用於創建各種其他類型的錯誤信息或惡意內容,從誤導性的新聞報導到報復色情和更多。
轉載的潛在危險很大,它們代表了更廣泛的AI風險類別的最明顯的例子:錯誤信息。
人工智能可以用來創建並廣泛分享不正確但看起來令人信服的材料。
對於Deepfakes和其他AI生成的錯誤信息,存在許多社會,政治和法律影響,其中最大的問題之一是目前沒有任何關於這些材料的規定。
AI系統應用於涉及偏見和歧視可能性的問題,這個問題變得更加嚴重。許多公司已經使用AI來幫助排序和處理工作申請。儘管AI具有分析多個應用程式所需的相同時間更多的優點,但這並不意味著它免受偏見的影響。
2018年,亞馬遜停止使用一款專有的招聘工具,因為這款AI系統的訓練數據明顯存在系統性的偏見,偏向於女性應聘者。偏見和歧視也是搜索引擎和社交媒體上發現的推薦算法的巨大潛在因素。
這些AI程序可能且可能會確認和加強偏見,而沒有仔細的規劃。
人工智能可能改變金融部門。越來越多的投資公司依賴人工智能來分析和選擇要買賣的證券。許多人也使用AI系統進行實際的購買和出售資產的過程。
在人類分析師可能被情感迷亂時,AI交易算法受益於其清晰性。但是,它們也未考慮到較廣泛的社會影響和背景。市場依賴於信任水平,並可能在投資者恐懼的情況下輕易受到影響。
很容易想像AI投資工具旨在最大化利潤,而在短時間內進行大量的買賣,引發人類市場參與者的恐慌,引發閃崩或其他波動。也許人工智能帶來的最大威脅是所謂的“奇點”,即人工智能超過人類智能的時刻。
這個關鍵轉折可能標誌著人類無法控制AI,而AI主宰社會創造或摧毀的方式。