"BOKU"のITな日常

BOKUが勉強したり、考えたことを頭の整理を兼ねてまとめてます。

身に着けるとAIから身を隠せるパッチパターンの話

f:id:arakan_no_boku:20201021194533p:plain

 

AI技術が普及してきて、監視カメラもそこら中についている時代です。

まだ、中国ほどではないにしても、日本もそれに近づく可能性があります。

そうなってくると、AIから身を隠せる方法を考える人も当然います。

 

こんな記事を見つけました。

ai-scholar.tech

ニューラルネットワークに誤分類をさせる技術「 Adversarial attacks」の一種なのですが、誤認識させるためのパッチを印刷して、それを身につけるだけで「人間」として認識できなくしてしまうというアプローチです。

引用すると。

防犯カメラなどのAIによる人物識別機能を騙し、”人間を認識できなくなるパッチ”を作成することをゴールとします。

さらに凄いのは、バーチャル上だけではなく、現実世界でも40cm四方にパッチをプリントアウトし、これを持つだけで、隠れ蓑として人間識別機から逃れることを実現しているところです。

 写真を見ると、40センチ四方の印刷したボードを首からさげると、人間として認識されなくなっているようです。

 

この「Adversarial attacks」にはいろんなパターンがあります。

人間の眼から見れば「パンダ」なのに、AIに「テナガザル」と誤認識させる例とか。

sotetsuk.hatenablog.com

 貼るだけで、なんでもトースターだとAIに誤認識させてしまうステッカーとか。

www.gizmodo.jp

これだけ見ていれば平和そのものなんですけど、自動運転車に道路標識を誤認識させたりとかになると、ちょっと話が変わってきます。

japan.cnet.com

引用すると。

四角い形をした黒いステッカーと白いステッカーを一時停止の道路標識に貼ったところ、システムがその標識を時速45マイル(約72km)の制限速度標識と勘違いしたという。

自動運転車が普及した世の中になったら、こんなイタズラで自動車が停止せず、大事故につながるなんてことが笑い話でなくなります。

 

このバッチパターンと同じネタではないでしょうが、アメリカでは「AIが人間だと認識できない」ということが原因の死亡事故もおきてますしね

news.yahoo.co.jp

 

もちろん。

だます技術が発見されることで、それを防ぐ技術も磨かれるわけです。

だから、数年したら、このバッチパターンも全く通用しない技術になっているかもしれないのですけどね。

今回はこんなところで。

ではでは。