CCTVとゴミの投棄
人を棒人間に変えてとらえる
指令 午前2時、路地に缶を投げて姿を消した人物がいる。画面の600万個の数字から「捨てる動作」をまず見抜け。
装備 物体検出 · 姿勢推定 · 動作の特徴4つ · ルール対学習 · ライブ管制室
CCTVの画面の中で、誰かが缶を投げて姿を消した。人なら一目で「捨てた」とわかるが、コンピュータは数百万個の数字から人を探し、その動きを読み取らなければならない。本部の指令は二つだった。捨てる動作を見分け、その動作を逆に作り出せ。 一体の棒人間が、投棄犯の検出から始まって動作データになり、折りたたまれては広げられ、言葉とペアになり、最後には「踊って」のひと言で助手のダンス映像になるまで。研究室の仲間たちと一緒に、5つのミッションを順に解いていく。
警報が鳴ってから3分後の記録である。
「ミッション開始」を押すと、その回へ移動する。終えたミッションに「完了」を付けておくと、この端末に記憶される。
人を棒人間に変えてとらえる
指令 午前2時、路地に缶を投げて姿を消した人物がいる。画面の600万個の数字から「捨てる動作」をまず見抜け。
装備 物体検出 · 姿勢推定 · 動作の特徴4つ · ルール対学習 · ライブ管制室
特徴表の矢印をひっくり返す
指令 投棄を見分けていた特徴で、今度は「投げる」動作を作り出せ。二つの動作を平均するとなぜ腕が伸びるのかを解き明かせ。
装備 識別対生成 · 動作データセット · 平均動作の落とし穴 · 審査官の採点
動作を折りたたんで広げる
指令 1,196個の数字を数個に折りたたんで広げても、動作は残るだろうか? 潜在空間の地図の上で、歩くと投げるの間を歩いてみよ。
装備 オートエンコーダ · ボトルネックの大きさ · 潜在空間の補間 · 復元誤差で異常動作を見つける
言葉と身ぶりを同じ地図に置く
指令 「手を振る」という言葉と手を振る動作をペアにせよ。絡まっていた線が学習とともに自分の相手を見つけていく過程を見届けよ。
装備 テキストエンコーダ · 対照学習 · 言葉–動作検索 · テキスト条件付き生成
プロンプトが助手のダンスになるまで
指令 「踊って」のひと言が棒人間のダンスになり、さらに助手のダンス映像になる。画面に出た動作一致率76.5%の正体を解き明かせ。
装備 プロンプト → 動作 · ポーズに基づく映像生成 · 動作一致率 · 映像プレーヤー
CCTV画面を数字に変えてみる、検出枠と関節をオン・オフする、棒人間の場面を再生する、しきい値を動かすルール実験、そしてリアルタイム管制室まで。数字が実際にどう変わるかを自分の目で確かめる。
ミッションごとに、コピー・ダウンロード・ノートブックですぐ開けるコードがある。Colabの標準ライブラリだけを使い、実際の実行結果も載せている。
セクションごとに、初心者向けの解説、点線下線の用語吹き出し、解説付きの確認問題がある。
ハッカソンの計画、コンテストの企画書、論文の実験設計に、コードを出発点として使うためのプロンプトを収めた。
「針金人形を重ねる」「審判のビデオ判定」のようなたとえとともに、そのたとえが外れるところも書いておいた。
講義形式・実務OJT・1対1チュータリングの運営案、セクションごとの質問、よくある誤解5つをまとめた。
◆ 写真が数字になる過程 — 5-1の「画面は数字」は4-2 猫 vs 人でより詳しく扱う。
◆ エンコーダ・デコーダとアテンション — 5-3・5-4の土台となるオートエンコーダとエンコーダ–デコーダは3-7 系列モデルで、テキストエンコーダの骨組みは3-8 アテンション・トランスフォーマーで前もって見ることができる。