生成式 AI 深度偽造引發國家安全危機
Peter Garnry
Chief Investment Strategist
Summary: 生成式人工智能被譽為提升生產力的福音，但在針對已開發國家高級官員的大膽人工智能深度偽造搶劫事件後，生成式人工智能成為國家安全威脅。 政府通過新法規打擊人工智能，隨著風險投資人逃離該行業，人工智能炒作被戳穿。 公眾對人工智能生成的新聞的不信任度飆升，政府實施了新的法律，只允許一小部分實體傳播公共新聞。
雖然從麥肯錫到企業部門和領先的經濟學家，每個人都認為生成式人工智能是一種偉大的生產力提高工具，將在未來幾十年推動增長，但其他人則將其視為一種潛在的新武器。 在一場高風險的遊戲中，一個犯罪集團部署了世界上有史以來最具欺騙性的生成式人工智慧深度偽造技術，對一名高級政府官員進行網路釣魚，以交出來自已開發國家的絕密國家資訊. 這一大膽的舉動和成功引發了二戰以來最大的國家安全危機，開創了一個影響深遠的人工智能監管新時代。
為了應對生成式人工智能的災難性副作用，美國和歐盟宣佈，生成式人工智能製作的所有內容都應貼上「人工智能製造」的標籤，不遵守將導致嚴厲的處罰。 對生成式人工智能炒作的更大打擊是，政府以國家安全為由迫使 OpenAI 和Google控制第三方訪問其基礎大型語言模型，這意味著只有政府批准的實體才能使用這些新的生成式人工智能系統。 新法規扼殺了生成式人工智能的炒作，因為風險投資因擔心生成式人工智慧將更難商業化而枯竭。
生成式 AI deepfake 事件從國家安全危機到公眾對互聯網上傳遞的資訊的全面不信任，因為 AI 生成的內容膨脹到所有資訊的 90%。 在所有發達國家，政府都制定了嚴厲的法律，只有政府批准的新聞機構才能向公眾傳播新聞，這對社交媒體平台和「不合規」的新聞機構造成了沉重打擊。 在銀行業眾所周知的「了解你的客戶」監管是為了避免洗錢，它強制要求提供生成式人工智能應用程式的科技公司避免某些國家和實體獲取該技術。
市場影響：經政府批准傳播公共新聞的傳統媒體公司價值飆升，《紐約時報》公司的股價翻了一番。 政府對該公司進行處罰，因此Adobe 股價暴跌，因為災難性的深度偽造是使用其軟體製作的。