"BOKU"のITな日常

62歳・文系システムエンジニアの”BOKU”は日々勉強を楽しんでます

AIをだます技術に、妄想をかきたてられる今日この頃(笑)

AIが普及してくると、それをだます技術も進歩してきます。

そんな記事を読みながら、もやもやしてるんですよね。

f:id:arakan_no_boku:20201021194533p:plain

 

身に着けるとAIから身を隠せるパッチパターンとか

 

こんな記事を見つけました。

ai-scholar.tech

ニューラルネットワークに誤分類をさせる技術「 Adversarial attacks」の一種なのですが、誤認識させるためのパッチを印刷して、それを身につけるだけで「人間」として認識できなくしてしまう・・というアプローチが斬新です。

引用すると。

防犯カメラなどのAIによる人物識別機能を騙し、”人間を認識できなくなるパッチ”を作成することをゴールとします。

さらに凄いのは、バーチャル上だけではなく、現実世界でも40cm四方にパッチをプリントアウトし、これを持つだけで、隠れ蓑として人間識別機から逃れることを実現しているところです。

 写真を見ると、40センチ四方の印刷したボードを首からさげると、人間として認識されなくなっているようです。

これ。

面白いです。

最近、AIを使って監視カメラの映像の人間を識別・監視するシステムが普通に使われてますが、この技術をうまく応用して、例えば「パッチパターン」を印刷した服を着て=監視システムをすりぬける・・なんてことができることになります。

現実にそんなことが必要な状況にはなかなかならないでしょうが、ドラマとか小説とかのネタとして考えると、いろんなところで応用が利きます。

 

パッチパターンを使ったトリックとか

 

この「Adversarial attacks」にはいろんなパターンがあります。

人間の眼から見れば「パンダ」なのに、AIに「テナガザル」と誤認識させる例とか。

sotetsuk.hatenablog.com

 貼るだけで、なんでもトースターだとAIに誤認識させてしまうステッカーとか。

www.gizmodo.jp

これだけ見ていれば平和そのものなんですけど、自動運転車に道路標識を誤認識させたりとかになると、ちょっと話が変わってきます。

japan.cnet.com

引用すると。

四角い形をした黒いステッカーと白いステッカーを一時停止の道路標識に貼ったところ、システムがその標識を時速45マイル(約72km)の制限速度標識と勘違いしたという。

自動運転車が普及した世の中になったら、こんなイタズラで自動車が停止せず、大事故につながるなんてことが笑い話でなくなります。

犯人がターゲットの車が来たときだけ、標識にステッカーを貼って事故を起こさせて、事故のどさくさにそれをはがして持ち帰る・・なんて、犯罪トリックもありえます。

それに、前に書いた「人と認識させないパッチパターン」とかで作った服を着せて、自動運転車にはねさせるなんて手口も考えられますよね。

実際、そんなことしなくても、アメリカではそんな事故もおきてますから、意図的な犯罪として立証するのが難しいトリックになるでしょうね。

news.yahoo.co.jp

でもまあ。

小説だけでなく、現実でもありえるかもしれないのは、かなり嫌ですが。

 

個人的にはAIが普及しすぎるのは怖いなあ

 

上記のような記事を読んでいると、AI(人工知能)を使いすぎるのはどうなんだろうという疑問が頭から離れなくなります。

自動運転車についても、高速道路なんかのオートパイロット程度でいいじゃないか・・と思ってしまいます。

自動運転車が街中を走り回る世の中ってのはゾッとしません。

だって。

AIは間違いますから。

ある程度仕組みを知った人間なら悪意を持ってだますことができるというのは、上記の記事にもあるように実証されてます。

もちろん。

だます技術を磨くことで、防ぐ技術も磨かれるという理屈はわかります。

でも、初めて騙される犠牲者に自分がなるかもしれないことを考えると、仮にAIが間違えても人間がそれを補えるという仕組みは絶対必要だなと思ってしまいます。

うん。

 

今回はこんなところで。

ではでは。