Generative AI deepfake triggers a national security crisis

Generative AI deepfake triggers a national security crisis

Peter Garnry

Chief Investment Strategist

Summary:  Generative AI, hailed as a productivity boon, becomes a national security threat after a daring AI deepfake heist against a high-ranking official in a developed country. Governments crack down on AI with new regulations, puncturing the AI hype as VCs flee the industry. Public distrust in AI-generated news soars and governments impose new laws, allowing only a small group of entities to disseminate public news.


While everyone from McKinsey to the corporate sector and leading economists see generative AI as a great productivity-enhancing tool that will lift growth in decades to come, others see it as a potential new weapon. In a high-stakes game, a criminal group deploys the most deceptive generative AI deepfake the world has ever seen, phishing a high-ranking government official to hand over top-secret state information from a developed country. The daring move and success triggers the biggest national security crisis since WWII, ushering in a new era of far-reaching AI regulation. 

In a historic move to deal with the catastrophic side effects of generative AI, the US and EU declare that all content produced by a generative AI should have the label ‘Made by AI’ and failure to comply will lead to a harsh penalty. In an even bigger blow to the generative AI hype, the government forces OpenAI and Google to reign in third-party access to their foundational large language models on national security grounds, meaning that only government-approved entities are allowed to use these new generative AI systems. The new regulation kills the generative AI hype, as VC investments dry up on concerns that generative AI will be more difficult to commercialise. 

The generative AI deepfake incident goes from national security crisis to full-blown public distrust in information delivered on the Internet, as AI-produced content swells to 90% of all information. In all developed countries, governments make harsh laws that only news organisations approved by the government are allowed to disseminate news to the public in a big blow to social media platforms and ‘non-compliant’ news organisations. Know-your-customers regulation, well known in the banking sector to avoid money laundering, is forced on technology companies delivering generative AI applications to avoid certain countries and entities accessing the technology. 

Market impact: Traditional media companies approved by their governments for disseminating public news soar in value, with shares in The New York Times Company doubling. Adobe shares plunge as government penalises the company, as the catastrophic deepfake was made using its software. 

Haftungsausschluss

Die Unternehmen der Saxo Bank Gruppe bieten jeweils einen Execution-only-Service und einen Zugang zur Analyse an, der es einer Person ermöglicht, die auf oder über die Website verfügbaren Inhalte anzusehen und/oder zu nutzen. Dieser Inhalt soll den reinen Ausführungsdienst weder ändern noch erweitern. Ein solcher Zugang und eine solche Nutzung unterliegen jederzeit (i) den Nutzungsbedingungen; (ii) dem vollständigen Haftungsausschluss; (iii) der Risikowarnung; (iv) den Verhaltensregeln und (v) den Hinweisen, die für Saxo News & Research und/oder deren Inhalte gelten, sowie (gegebenenfalls) den Bedingungen, die für die Nutzung von Hyperlinks auf der Website eines Mitglieds der Saxo Bank Gruppe gelten, über die der Zugang zu Saxo News & Research erfolgt. Derartige Inhalte werden daher lediglich als Information bereitgestellt. Insbesondere ist es nicht beabsichtigt, einen Ratschlag zu erteilen oder sich darauf zu verlassen, dass dieser Ratschlag von einem Unternehmen der Saxo Bank Gruppe erteilt oder gebilligt wird; er ist auch nicht als Aufforderung oder Anreiz zur Zeichnung oder zum Verkauf oder Kauf eines Finanzinstruments zu verstehen. Alle Handelsgeschäfte oder Investitionen, die Sie tätigen, müssen auf der Grundlage Ihrer eigenen unaufgeforderten und informierten, selbstbestimmten Entscheidung erfolgen. Daher kann kein Unternehmen der Saxo Bank Gruppe für Verluste haftbar gemacht werden, die Ihnen infolge von Investitionsentscheidungen entstehen, die Sie im Vertrauen auf die in Saxo News & Research verfügbaren Informationen oder infolge der Nutzung von Saxo News & Research getroffen haben. Erteilte Aufträge und getätigte Geschäfte gelten als für das Konto des Kunden bei der Saxo Bank Gruppe erteilt bzw. getätigt, die in dem Land tätig ist, in dem der Kunde ansässig ist und/oder bei der der Kunde sein Handelskonto eröffnet hat und unterhält. Saxo News & Research enthält keine Finanz-, Anlage-, Steuer- oder Handelsberatung oder Ratschläge jeglicher Art, die von der Saxo Bank Gruppe angeboten, empfohlen oder befürwortet werden, und sollte nicht als Aufzeichnung unserer Handelskurse oder als Angebot, Anreiz oder Aufforderung zur Zeichnung, zum Verkauf oder zum Kauf eines Finanzinstruments verstanden werden. Soweit ein Inhalt als Finanzanalyse ausgelegt wird, müssen Sie zur Kenntnis nehmen und akzeptieren, dass der Inhalt nicht in Übereinstimmung mit den gesetzlichen Anforderungen zur Förderung der Unabhängigkeit der Finanzanalyse erstellt wurde und als solcher nach den einschlägigen Gesetzen als Marketingmitteilung angesehen werden würde.

Bitte lesen Sie unsere Haftungsausschlüsse:
Meldung über nicht-unabhängige Finanzanalysen (https://www.home.saxo/legal/niird/notification)
Vollständiger Haftungsausschluss (https://www.home.saxo/legal/disclaimer/saxo-disclaimer)

Saxo Bank (Schweiz) AG
The Circle 38
CH-8058
Zürich-Flughafen
Schweiz

Saxo kontaktieren

Region auswählen

Schweiz
Schweiz

Wertschriftenhandel birgt Risiken. Die Verluste können die Einlagen auf Margin-Produkten übersteigen. Sie sollten verstehen wie unsere Produkte funktionieren und welche Risiken mit diesen einhergehen. Weiter sollten Sie abwägen, ob Sie es sich leisten können, ein hohes Risiko einzugehen, Ihr Geld zu verlieren. Um Ihnen das Verständnis der mit den entsprechenden Produkten verbundenen Risiken zu erleichtern, haben wir ein allgemeines Risikoaufklärungsdokument und eine Reihe von «Key Information Documents» (KIDs) zusammengestellt, in denen die mit jedem Produkt verbundenen Risiken und Chancen aufgeführt sind. Auf die KIDs kann über die Handelsplattform zugegriffen werden. Bitte beachten Sie, dass der vollständige Prospekt kostenlos über die Saxo Bank (Schweiz) AG oder den Emittenten bezogen werden kann.

Auf diese Website kann weltweit zugegriffen werden. Die Informationen auf der Website beziehen sich jedoch auf die Saxo Bank (Schweiz) AG. Alle Kunden werden direkt mit der Saxo Bank (Schweiz) AG zusammenarbeiten und alle Kundenvereinbarungen werden mit der Saxo Bank (Schweiz) AG  geschlossen und somit schweizerischem Recht unterstellt.

Der Inhalt dieser Website stellt Marketingmaterial dar und wurde keiner Aufsichtsbehörde gemeldet oder übermittelt.

Sofern Sie mit der Saxo Bank (Schweiz) AG Kontakt aufnehmen oder diese Webseite besuchen, nehmen Sie zur Kenntnis und akzeptieren, dass sämtliche Daten, welche Sie über diese Webseite, per Telefon oder durch ein anderes Kommunikationsmittel (z.B. E-Mail) der Saxo Bank (Schweiz) AG übermitteln, erfasst bzw. aufgezeichnet werden können, an andere Gesellschaften der Saxo Bank Gruppe oder Dritte in der Schweiz oder im Ausland übertragen und von diesen oder der Saxo Bank (Schweiz) AG gespeichert oder anderweitig verarbeitet werden können. Sie befreien diesbezüglich die Saxo Bank (Schweiz) AG von ihren Verpflichtungen aus dem schweizerischen Bank- und Wertpapierhändlergeheimnis, und soweit gesetzlich zulässig, aus den Datenschutzgesetzen sowie anderen Gesetzen und Verpflichtungen zum Schutz der Privatsphäre. Die Saxo Bank (Schweiz) AG hat angemessene technische und organisatorische Vorkehrungen getroffen, um diese Daten vor der unbefugten Verarbeitung und Offenlegung zu schützen und einen angemessenen Schutz dieser Daten zu gewährleisten.

Apple, iPad und iPhone sind Marken von Apple Inc., eingetragen in den USA und anderen Ländern. App Store ist eine Dienstleistungsmarke von Apple Inc.