サイトリニューアルのお知らせと NDSS Symposium 2021 セッション紹介 (1)

本日、Security Diary サイトをリニューアルしました。

運営方針や内容は今までと変わりありませんが、スマートフォンなどからでも見やすくなったと思います。これからもどうぞよろしくお願いいたします。

---

さて、今日から何回かに分けて、2月下旬に開催されていた NDSS Symposium 2021 から興味を惹かれたセッションをいくつか紹介します。このシンポジウムは Internet Society が主催するネットワークと分散システムのセキュリティに関する話題を幅広く扱ったもので、1995年から毎年開催されています。

このシンポジウムではほとんどの論文と講演動画が公開されますので、私は開催後にプログラムを眺めながら興味のあるセッションをチェックしました。コロナの影響で他のカンファレンスなどでもオンライン開催が続いていて、現地に行って直接話したり飲み食いしたりする機会がめっきりなくなったのは寂しいんですが、後から映像で見れるものがとても増えたことは嬉しい変化ですね。

Hey Alexa, is this Skill Safe?: Taking a Closer Look at the Alexa Skill Ecosystem ^[1]Christopher Lentzsch, Sheel Jayesh Shah, Benjamin Andow, Martin Degeling, Anupam Das, and William Enck., “Hey Alexa, is this Skill Safe?: Taking a Closer Look at the Alexa Skill … Continue reading

この論文は Amazon が販売している音声アシスタント、Alexa で使用できる「スキル」について、大規模で包括的な調査を実施したものです。

スキルは、Alexa の音声入出力インターフェースを使ってユーザに機能を提供するための仕組みで、開発してスキルストアに登録することでユーザにサービスを提供することができます。スキルストアは現在82ヶ国、8言語^[2]英語、ドイツ語、イタリア語、フランス語、スペイン語、日本語、ヒンディ語、ポルトガル語。Amazon Alexa誕生から6年、数字でわかるAlexaの成長で展開されているそうです。

研究課題として挙げられているのは、「スキル審査プロセスの精査」「スキルスクワッティング攻撃(スキル名を占拠する攻撃)はどの程度有効か」「プライバシーポリシーリンクを提供するという要件には効果があるか」の3点です。著者たちはそのうちの7ヶ国(アメリカ、イギリス、カナダ、オーストラリア、ドイツ、フランス、日本)でスキルストアの情報をクローリングして、公開されていた全スキル15万件以上のスキルのメタデータとも言うべき情報を収集しました。また、この実験のために彼ら自身がスキルを作成。これらから得られた知見を元に分析を実施しています。

彼らは上記の研究課題について、たとえばスキル審査後のバックエンド変更によって審査中のチェックをすり抜けることができるなど、スキル審査プロセスの過程に攻撃者が悪用できる可能性があるいくつかの問題を発見しました。スキルのプライバシーポリシーについてはツールを作成して分析、不十分な内容のものが多いことを報告しています。また、これら発見した問題の報告と改善方法の提案を Amazon に対して行い、話し合っているそうです。

音声アシスタントに対しての命令は、(当たり前ですが)音声で与える必要があります。彼らはこの作業を丹念に繰り返すために、ログの監視と制御を実施する Raspberry Pi とスピーカー、そして Amazon Polly というテキストの読み上げサービスを使って実験環境を作りました。

この環境を使って、例えば、ユーザが有効化しようとしたスキルに複数同名のものがある場合どちらのスキルが選択されるか実験して、その判断結果と前述したスキルのメタデータが持つパラメータを突き合わせ、Amazon の選択基準がどうなっているかを推測しています。また、同名のスキルを登録することでスキルへのアクセスを奪うスキルスクワッティング的な攻撃が可能であるか、スキルによってユーザのプライバシー情報を盗み出せないかなどを事細かに検証しています。

著者たちの調査と分析結果、およびクローリングにより収集したスキルのメタデータなどが下記のサイトで公開されていますので、興味を持った方はぜひチェックしてみてはいかがでしょうか。

• A Privacy & Security Analysis of the Alexa Skill Ecosystem

---

(2021-03-24 追記): 講演動画の出典元サイトを明記しました。さらに、音声アシスタントについて思い出したことがあるので追記しておきます。

昨年、遅ればせながら複数メーカーの音声アシスタントを自宅で買って使ってみたんですが、音声を使ったインターフェースで機械とやり取りするのは、Web やコマンドラインとはまったく違う難しさがあるなと実感しました。

音楽が好きなのでいろいろ試してみたんですが… 海外のマイナーなヘヴィメタルを聴きたいことが多い私の場合、ちゃんと聞き取ってもらう難易度がとても高くて、なかなか目的の曲を再生してもらえません。自分の発音が悪いせいかとも思いましたが、そもそも単語の言語が混ざることが難しいというのが本質なのでしょう。

人間同士でも聞き違いによる問題はたびたび起こるので、音声アシスタントの普及度が上がれば上がるほど、サービス提供側が安全性に気を遣わなければならない場面は増えていきそうです。