As a follow-up on my recent short cyber/AI analysis of the Germany's "Future vision" for the armed forces and regarding the start of the NATO 2030 talk, I took a look into the NATO 2030 strategy paper & what it has to say about these two ares of technology. A short thread /1
Cyber has a dedicated chapter in the paper, and it starts with this interesting statement „Hybrid and cyber attacks are not, themselves, threats; they are tools employed by hostile actors, state, and non-state actors alike, that are the threat“. /2
This analysis states that cyber activities are often driven by strategic interests by some actors. This perspective is somehow limited to the case of actors that lock on a single target (another state) but ignores broad but still high-value attacks like against SolarWinds .../3
... that are capable of undermining the security of a wide range of states, institutions etc. So, whereas the paper recommends common frameworks to „respond to hybrid and cyber incidents in a crisis“ it should also foster & implement common IT security measures, standards ... /4
... and stronger cooperation, above the current CERT level information sharing. /5
What's also interesting is, that the recommendations for common strategic cyber activities perceives cyber as a threat only when being part of hybrid activities. This misses the point that military actors are developing tools for cyber warfare since at least several years. /6
Even if „pure“ cyberwars are currently seeming to be unlikely, as more and more military technology will get digitalized, offensive activities against these systems (among others) will become more common that they are today. /7
Just think about (L)AWS where cyber is an essential part of its functionality, not „just one another sensor“. Cyber should definitely be part of the papers recommendations for Emerging and Disruptive Technologies. Maybe it already is, but that's not totally clear. /8
Because even if NATO is seeing cyber not as a threat in itself, other actors probably will and prepare for. /9
That said, the whole topic of AI as the next run-to technology for military decision makers is somehow completely underrepresented in the whole paper. It is briefly mentioned as one of the next upcoming technologies to get considered... /10
... and that China is running to be the AI leader in 2030, but nothing more. If AI will really decide about who ‘will be the ruler of the world’ (as Putin is quoted in 2017), this NATO strategic planning is not sufficient .. /11
... in terms of common technology R&D, common standards, common ethical approaches for AI on battlefields, protection of domestic IP etc. /12
These quick thoughts as my „50 cent“. Comments are welcome and retweets too ;)
Es ist zwar schon ein paar Tage her, aber hier noch meine Cyber/KI-Perspektive auf das kürzlich von AKK und Generalinspekteur veröffentlichte „Positionspapier: Gedanken zur Bundeswehr der Zukunft“ (Thread 1/):
Zum einen fällt auf, wie mMn wenig die neuen Technologien tatsächlich konkret benannt werden. Ja es ist „nur“ ein Positionspapier, aber es wäre dennoch interessant gewesen was BMVg & BW nun u.a. mit Cyber/KI-Fähigkeiten erzielen wollen. /2
KI wird übrigens gar nicht genannt während es andernorts als Gamechanger rege in der Diskussion ist. /3
A quick (and unsettling) threat how AI is already shaping the future of ground & drone based combat. A few days back the US Army fully tested its "Project Convergence 2020", an AI enabled quasi automatic from sensor to shooter toolchain with an engagement time of just seconds /1
I recommend reading the news article (source at bottom) because it simply shows how mil. decision makers want AI to collect the data, decide over target & select the impact measure. The operator still has to click "OK" but thats not "ethical use of AI". /2
At the point when a human sees the processed data and has to decide if/if not to pull the trigger, the machine already has filtered out so many information and pre-decided over target, tactics, situational conditions etc. a human simply cannot trace back / evaluate /3
Money-Quote v. Forschungsdirektor Igel "Alle Menschen wollen sicher leben und sicher das Internet benutzen (..) Und gleichzeitig gibt es eine gewisse Zurückhaltung, dafür auch Forschung zu betreiben – gerade auch dann, wenn die Ergebnisse militärisch genutzt werden könnten."
Ja genau, sollte das nicht exakt so sein? Kritische Technikfolgenabschätzung war in der Informatik mal ein Wert der offensichtlich hier als Hindernis wahrgenommen wird. Ist das nächste Argumentations.-Level dann "wenn wir es nicht machen, machen es andere"?
Ohje, gerade den fatalen Fehler gemacht und die Twitter-Kommentate vom Spiegel-Tweet zur #Seawatch4 gelesen. Da kann ich nur noch kotzen und schäme mich für meine Spezies. Der dt. Michel blökt ja schon Zeter und Mordio wenn er mal nicht nach Malle darf oder ne Maske tragen muss..
Aber wenn Menschen aus dem Nichts mit Nichts in eine ungewisse, lebensgefährliche Zukunft fliehen dann endet Empathie und Sozialgewissen an der eigene Nasenspitze. Schauen diese Leute keine Nachrichten? JedeR der sich auch nur im Ansatz mit dem Thema und dem Leid befasst...
... sollte dankbar sein dass hier für ein starkes international zivilgesellschaftliches und europäisches Statement gesetzt wird. 🤮 Ich muss jetzt erstmal duschen um all den Dreck & Hass wieder abzubekommen. Schämt euch & betet daß euch oder euren Kinder sowas nie passieren wird
Breaking News: Die dt. BReg will nun doch auf Gesetz für Hack-Backs verzichten. Lt DLF24 war "die oberste Stufe der sogenannten aktiven Cyberabwehr" umstritten. Hier in kurz und hier beim Siegel (Paywall spiegel.de/politik/deutsc…)
CC: Danke u.a. and @perceptic0n@z_edian@snv_berlin@HonkHase@netzpolitik@FIfF_de sowie viele Andere die seit Jahren (!) vor den unkalkulierbaren Gefahren solcher Maßnahmen warnen & für das gemeinsame unermüdliche Klinkenputzen . Das könnte für EU2020 ein starkes Signal werden
With regard of Germany’s Presidency
of the Council of the European Union that starts today, here's a thread with Germany‘s priorities for the fields of #cyber, #AI and #ArmsControl. See the source below for longer text, I've cut it down to fit into twitter /1
Cyber-Security, part I:
„To bolster security in cyberspace (..) closer cooperation between the Member States
in the area of network and information security, particularly critical infrastructure and other enterprises in the public interest. (..)" /2
Cyber-Security, part II:
"To achieve [cyber security], we intend not least to work to ensure that all devices available on the market have a standard minimum level of IT security" /3