今回は久しぶりにちょっとエンジニア寄りの話をしようということで、
はい。
はい、Ayakaさんに質問を持ってきてもらいました。
はい、なんかこう、仕組みが気になっているものある?って聞かれて、
はい。
こう、その辺にこうパッて目に入った、テレビの仕組みってどうなってんの?みたいな、
ふわっとした、あの、よくこうYouTubeとか見るし、
テレビは実はあんまり知事オハは見ないんですけど、
うん。
あの、Netflixとか見てることが多くて、
うんうん。
まあでも、どうなっているのかな?っていうのを気になってたんで、
今度さえ聞けたらなぁと思って質問をしました。
はい。じゃあそういう映像の、まあ大きく言うと配信に使われている技術、
で、まあじゃあ地上デジタル放送って今いわゆる日本のテレビですね、
から始めて、まあなんか最近のそのYouTube、Netflixとか、
はい。
そういうところで使われている映像の技術についても話していこうと思います。
はい、お願いします。
はい。
で、地上デジタル放送、
はい。
で、呼ばれている、まあ、あの、方式なんですけど、
はい。
まあこれは、こう電波使って、
うん。
ね、配信してるわけです。
で、まあ地上デジタル放送っていうのは、まあデジタルなんで、
うん。
こう、データ、その01のデータですね、
うんうん。
を電波の上に、こう、まあ乗せて、こう送るという仕組み、
はいはい。
になってます。
で、その、まあ映像を、その01のデジタルのバイナリデータに変換する方式としては、
MPEG-2っていうコーデックが使われているそうです。
ああ、なんかでも、これパソコンとかで使う、
うん。
なんだっけ、MPEG-4とは別?
そうですね、MP4とか、
MPEG-4。
MPEG-4とか呼ばれているものとは、
まあ、あの、同じ、あの、なんだ、兄弟みたいな感じ。
はいはい。
で、ですけど、まあ世代が結構違って、
ああ、なるほど。
MPEG-4の方が、まあ新しくて、
うん。
かなり性能が良いと。
うーん。
同じ映像を、こう変換するのに、
まあデータの量が、まあ大体半分ぐらいで済むんですね、
うんうん。
MPEG-4の方が。
なるほど。
MPEG-2は、まあ古くて、えー、まあ安定しているというか、
あの、もう特許が切れているんですね、現時点では。
うんうん。
ああ、そのぐらい古い技術なんですけど、
うん。
まあ、あの、テレビ、まあ地上デジタル放送が普及し始めた頃は、
まだまだこう、まあその時最新かどうかわかんない、
うんうん。
家ですけど、まあかなりその、枯れて安定的に、
うんうん。
そのテレビ、えー、みたいなたくさんの数作る機器にも搭載できる、
まあぐらい、あの普及している、まあ技術として選ばれた。
なるほどなるほど。
ふうな経緯があります。
はい。
はい。
で、まあなんかチャンネルごとに周波数帯が決まっていて、
うん。
で、その周波数の、まあなんだろう、こう電波をこう取ると、
まあそこに、まあそうですね、
直行振幅変調という仕組みで、こう、
ほう。
電波を、まあデジタルデータに、
を電波に変換して、まあデータを送っていると。
へー、じゃあ私たちが例えばチャンネル変えるときは、
まあ、あの、なんだろう、速いWi-Fiだとこのぐらいの画質になるだろうなっていうぐらいの、
あー、なるほど。
画素数があります。
まあ、結構高精細ですね。
うんうん。
え、これって、なんか、地デジだからとか関係あるんですね。
なるほど。
アナログテレビはもっと荒い。
あー、そうですね。
うん。
アナログテレビはかなり荒くて、かつ、まあ、画質もその、なんだろう、放送局のアンテナから遠くれば遠いほど、ちょっと劣化してしまったりとか、
あー、なるほど、なるほど。
こう、山で反射してちょっと遅れて電波が届くと、
はいはいはい。
それが干渉してしまうとか、
なるほど。
いろんな問題がありました。
へー。
すごい物理ですね。
かなり物理。
え、それ地デジだとないんですか?
地デジは、えっと、まあ、そういう、その、同じような、まあ、回り込みだったり、
うん。
電波障害っていうのは起きうるんだけど、
うん。
こう、デジタルなので、誤り訂正符号っていう、まあ、パリティビットとも呼ばれる、あの、まあ、なんだろう、多少、その、間違って受信されても、それを修復できるような、
うんうん。
余分なデータが付与されてるんですよ。
うん。
で、それを使って、まあ、多少その、なんだろう、01が10になっちゃったり、
うん。
っていうのが、こう、稀に発生しても、それを訂正して、え、何事もなかった、このような、あの、再生を続けることができる、
へー。
という仕組みになってます。
なるほど。
で、あとは、なんかちょっと面白いのは、あの、テレビのピクセル、1ピクセルっていうのは正方形ではないんですよね。
うんうん。
あの、横長の長方形になっていると。
あ、1ピクセルが。
1ピクセルが。
おお。
そうですね。
なので、まあ、1440×1080っていう、まあ画素数を聞くと、こう、もしかしたらその、詳しい人があったらちょっとおかしいなって思うかもしれないですね。
これは、なんか4対3の、あの、比率になっていると。
うんうん。
で、え、ただ地デジっていうのは16対9の、あの、横長の、あの、なんだろう、まあ、ワイドな、あの、画像なんですね。
うんうん。
で、え、地デジっていうのは4対3の画素数で、え、16対9の、え、画像を、まあ、あの、画面を埋めるために、え、横長のピクセルを採用している。
へえ。
そうです。まあ、これはなんかどういう理由なのかわかんないんですけど。
うん。
まあ、実はなんか、映像の世界では、こう、正方、ピクセルが正方形とは限らないっていうのは結構よくある話。
ふーん。
らしいですね。
そうなんだ。
はい。
え、だから、地デジ対応テレビっていうのは、それに対応しなきゃいけないっていう。
そうですね。はい。それを、あの、ちゃんと表示できたら、地デジ対応テレビということになってます。
なるほど。
ただ、テレビのピクセルが、一個一個が正方形かどうかは、かなり多分機種によるんじゃないかな。
ふーん。
まあ、実際には正方形のものも多いんじゃないかなと。
へえ。
思います。
なるほど。
まあ、あの、ちょっと引き伸ばして表示してあげればいいかもしれないので。
はいはいはい。あ、なるほどなるほど。その変換ができればいいだけってことですね。
そうですね。はい。ただ、あくまで、その、配信するときには、え、まあ、ちょっと、正方形に、まあ、引き伸ばされる前提で配信している。
はいはいはい。
いうことらしいです。
へえ。
はい。で、じゃあ、ちょっと軽くMPEG-2っていうさっきの企画の仕組みですね。
はい。
これを紹介しようと。
映像の企画。
はい。
はい。
思うんですけど。
まあ、この仕組み、あの、これから説明する仕組み自体は、なんか、これからのMPEG-2とか他の技術を元に開発された次の世代の企画にも、まあ、ほぼ使われています。
うん。
なので、まあ、コンセプトとしてはずっと引き継がれている、その大元の企画を説明します。
はい。
で、MPEG-2っていうのは、まあ、グループオブイメージですかな。グループオブフレームかな。
まあ、あの、何フレームか、そのフレームっていうのは1枚1枚の、その、絵のことですよね。
うん。
で、まあ、動画は、あの、当然たくさんの絵で、あの、構成されているんですけど。
うん。
えー、そのフレームを、まあ、ひとまとまり15フレーム単位で配信されています。
うん。
で、1秒間には、えー、30フレーム、あの、ありますね。
はい。
そのテレビの放送は、まあ、30fps、フレームパーセカンド。
うんうん。
まあ、実はちょっとインターレースっていう、あの、仕組みがあるんで、まあ、必ず30と呼べないという人もいるかもしれないですけど、まあ、とりあえず30ということでさせてください。
はい。1秒間に30フレーム。
1秒間に30フレーム。
うん。
で、30フレームを、こう、どんどん、あの、送っていくわけですけど、
うん。
その1フレーム1フレームが、こう、同じ大きさのデータで表現されているわけでは実はないですね。
うーん。
一番単純に考えると、例えばJPEGとかあるじゃないですか。
はい。
JPEG画像を1秒間に30回送れば、
うんうん。
動画ができますよね。
そうですね。
で、それでいいじゃんと、
うん。
なるかもしれないですけど、まあ、それは実は非常に、その、圧縮率が悪いというか、
ああ。
あの、非常に非効率なんですね。
はいはい。
まあ、デジタルでいくら効率が良くなったといえど、まあ、そんなに無駄遣いはできないぞと。
うんうん。
で、映像っていうのは、あの、うんと、なんて言えばいいのかな。
なんか、前、時間方向に相関があるというか、なんか、次のフレームは前のフレームから結構予測できる。
はいはい。
そうですね。
うん。
例えば、映像、このカメラがパンしてる、横にこうググってずれているみたいな時には、
うん。
あの、例えば、さっきの30分の1秒前の画像を1ピクセルだけずらした。
はいはいはい。
2ピクセルだけずらしたっていう画素がほとんどなわけです。
うん。
で、画面の端っこにだけ全く新しい画素があるってことですね。
うん。
だから、その動いた情報、そのどのぐらい動いたかっていう情報だけを記録しておけば、
はあ。
効率的に、ちょっと変わったり、新しいピクセルとか、あのところにはデータを使うけれども、
そうじゃないところはデータを節約できるんじゃないかっていう発想があるわけです。
はい。
で、なので、15フレームのうち1枚の画像をそのフレームだけから復元できる。
まあ、JPEGみたいな感じですよね。
うん。
あの、そのデータだけからその1フレームを完全に復元できるフレーム、iフレームっていう特別なフレームは1個しかないです。
うん。
なので、30フレーム毎秒のうち15フレームだから、0.5秒がその1まとまり。
うん。
1グループなんですけど、そのうち1枚しか、そのiフレームっていうのはない。
それ以外は、そのiフレームからとiフレームの間にあるフレーム。
うん。
で、前後のiフレーム同士からこう、推測してこう作っていくわけです。
ほう。
ほう。
なるほど。
で、その差分の情報、このぐらい動いたよとか。
うん。
こういう新しいピクセルがあったよっていう情報だけは記録してあるんだけど、
うん。
その前後のiフレームがないと再現ができない。
うんうん。
っていうことになってます。
なので、まあテレビ、あの、チャンネルの切り替えをすると、あの、なんだろう、結構ラグがあると思います。
ああ、そうですね。なんか一瞬ね。
うん。
で、アナログのテレビのことを覚えてる人がどこかいるかわかんないですけど、
うん。
あれに比べるとすごく遅くなったって言われる。
はいはいはいはい。
アナログテレビっていうのは、まあ、あの、すべてがiフレームみたいなもんですよ。
うん。
すべて静止画で構成されてる。
そうですね。
うん。
あの、なんならフレームの途中で切り替えができるぐらいかもしれない。
うん。
あの、ぐらい、まあ、あの、なんだろう、どのフレームからでも再生始められたんですけど、
うん。
デジタル放送は次のiフレームを待ってからじゃないと再生始められないし、
はいはいはい。
なるほど。
iフレームと次のiフレームを待たないと、その間のフレームっていうのを再構成できないわけです。
うんうん。
っていう、まあ、あの、欠点というか、
なるほどですね。
まあ、データの圧縮のための工夫がされている。
はいはいはい。
ですね。
なので、地上デジタル放送っていうのは、まあ、大体、まあ、あの、アナログ放送に比べるとかなりディレイがある。
うん。
まあ、1秒2秒とか。
チャンネル切り替えの時の。
そうですね。
チャンネル切り替えもディレイがあるし、
うん。
まあ、あの、なんだろう、同時配信みたいな感じで、
うん。
例えば、サッカーの中継をしてますって時に、
うんうん。
まあ、テレビの画像を、まあ、スタジアムに持って行ってみると、
はいはいはい。
まあ、結構遅れていると思います。
うん。
で、その、まあ、その要因はたくさんあるんですけど、
うん。
その間に、あの、挟んである機器だったり、電波の設備だったりもあるんですけど、
うん。
まあ、そういう単純に、そのiフレーム、次のiフレームを待たないと、
うん。
こう、デコードできないと。
はいはいはい。
で、デコードするのにも当然時間がかかる。
うん。
っていう風な、まあ、事情もあります。
うん。
なるほどです。
はい。
で、えー、ちなみに、iフレームの間に何が入っているかっていうと、
BフレームとBフレームっていうのがあります。
はい。
で、これなんか3段構えになっていて、
Bフレームっていうのは、まあ、10くらいのデータサイズ。
うん。
で、Bフレームっていうのは、まあ、一番データが少なくて済むようなタイプの、まあ、圧縮方法を使っていると。
はい。
で、まあ、i、B、B、B、B、B、B、B、B、B、B、B、B、B、B、B、B、B、B、B。
なんで言ってるのかわかんない。
順番で、iフレームが1個挟まったら、Bが2つ来て、
はいはいはい。
Bが来て、Bが2つ来て、みたいな感じの、
あーーー。
順番が決められているということですね。
なるほど、なるほど。
え、じゃあ1秒当たりにiフレームは2つしかない。
2つしかないです。
ほお、そうなんだ。
まあ例えば、巻き戻しとか早送りとかを、
その録画したNenpeg2のファイルに対して行うときには、
このiフレームが基本的にはキーフレームになります。
で、バカバカ飛ばしていきます。
あれは、基本的にはiフレームだけを抽出して、
お再生してるわけです。
なるほど、なるほど。
なので、DVD、DVDはNenpeg2ですね、そうですね。
だから、早送りしたときにはiフレームだけが、
基本的には、そうですね、再生されているということになっています。
なるほど。
ちょっと機器によっては、
なんかPフレームもついでにデコードしちゃうってのもあるかもしれないですね。
はい。
ちなみにiフレーム、キーフレームとも呼ばれるんですけど、
これは、静止画のJPEGとかと同じような仕組みを使ってコーディングされています。
中では、離散個彩変換っていう仕組みを使っているそうです。
へー、そうなんだ。
はい。
というのがNenpeg2の仕組みです。
いや、考えたこともなかった。
はい、年版に載せてやっているということですね。
なるほど。
で、これはもう事前に決めて、もう変えられないわけですね。
テレビを出荷した以上は、
じゃあNenpeg2の、じゃなくて4にしますっていうのは、
機器が更新されない限り実践できなくなってるわけで、
そういうことはできないと。
ということで、地上デジタル放送の今まで説明した仕組みっていうのは、
基本的に多分放送の最初、地上デジタル放送が始まった時から変わってないはずです。
2000何年ぐらいかな、4年、7年とかそのぐらいだったと思いますけど。
はい。
はい。
で、まぁちょっとじゃあYouTubeとか、ネットフリックスの話が出てたので、
そこで使われている、次の世代の企画についても話したいと思うんですけど。
はい、はい。
なんかちなみにここまでで質問はありますか?
ここまでで質問ですか?
えー、なんか、そうですね、なんか映画との違いとかも知りたいなと思ったんですけど、はい。
映画はその、なんだろう、フィルムだった時代に関しては、
全部がiフレームなわけですよ、当然ですけど。
そのフィルムって、一枚一枚光を通してパッて投影すると、静止画だった。
はい、はい、はい。
かつ、写真と同じぐらいの解像度があるので、テレビよりは遥かに、アナログのテレビよりは遥かに、
解像度が高いというか、画質が高いですと。
はい。
ただ、映像、その映画の規格っていうのは、24fpsだと決まっていると。
24フレーム毎秒なんですね。
で、テレビの約30フレーム毎秒に比べると、ちょっとその画の数は少ないというのがあって、
まあ、なんかそれが結構映画っぽさっていうのを作っているとも言われているというか、
実際にその24フレームの動画と、例えばYouTubeとかに上がってるような60fps、60フレーム毎秒の動画と見比べると、
なんか映画っぽいなって感じるのは、24fpsの方だったりもします。
なるほど、なるほど、はい。
あとなんか、Pフレーム、Bフレームってのはもちろんないので、
まあ、当然画質はいいですよね。
ああ、なるほど。
それって、あの、なんだろう、例えば映画をテレビでやるときは、変換してるってことなんですか?
ああ、そうですね。はい。
24フレームを30フレームに、まあ、何らかの方法を使って変換してるわけです。
うんうん、なるほど。
あ、そういえばその、なんか画素とか言うので、4Kとか言うじゃないですか、あれはまた話が別なんですか?
4Kっていうのは、その解像度の話なんで、さっき言った1080×1140みたいなものと、まあ同じです。
なので、NPEG2で4Kの動画っていうのはあり得ます。
なるほど。
NPEG2は、そのコーディックというか、あの、どう映像をデータに変換するかっていう方式のことを言ってるだけで、
はいはい。
解像度がこれじゃなきゃNPEG2じゃないっていうのはないわけですね。
なるほど、なるほど。
なので、まあ大きい動画っていうのもNPEG2だったり、他の方式でデータにすることはできます。
はい、ありがとうございます。
ただ、まあやっぱりNPEG2っていうのは古い規格なので、まあ4Kをこれで、あの、デコードすると、まあ結構データが大きくなってしまうということで、まああんまり使われない。
なるほどですね。
ですね。
あ、ちなみに4K放送っていうのも今あるらしいです。
へー。
あの、多分衛星、普通のなんかBSとか、
はいはい。
そういうので使われている仕組み、あ、BSなのかな?衛星放送だから違うかもしれない。
まあとにかく4KにはNPEG2は使われてなくて、これから説明する、まあH.264、もしくはNPEG4 AVCという規格が使われている。
はい、はい。じゃあお願いします。
じゃあそっちに行きましょうか。
はい。
はい。で、NPEG2っていうのもまあ非常に成功したわけですね。
テレビでも使われるようになったし、たとえばDVDみたいな規格にも採用されたと。
ただ、もっといろんな技術、新しい技術を使って、まあ小データ、データが小さくできるような仕組みもこれから作っていきたいなということで、開発が進んでいったんですね。
で、NPEG2の次は当然NPEG3なんで、まあ3も開発されたんですけど、結局2に統合されたらしくて、3は欠番になってます。
で、その次に出てきたNPEG4なんですけど、NPEG4自体はまあ今普及しているとは言い方く、
その発展版、NPEG4 AVCって呼ばれる、まあNPEG4の発展版っていうのが、まあ今かなり広く使われているH.264という規格になります。
で、これはNPEG2に比べると同じ画質でも半分ぐらいのデータで済むと。
へー、足引率が。
そうですね。なので、インターネット経由の動画の配信とかに、まあすごく広く使われてました。
で、まあだんだん次の世代への移行が進んでいるんですけど、まあそれでもまだ、例えばiPhoneとかにはH.264の再生に特化したチップが載っていたりとかもしますし、
まあまだまだ現役として広く使われている規格ですね。
うんうん、なるほどですね。
はい。
え、これって今YouTubeで使われてるんですか?
えーと、それは良い質問ですね。
はい。
YouTubeは、まあGoogleが運営してるんですけど、まあGoogleはH.264、それからその次の世代の、まあその次に説明しようと思ったH.265っていう規格があるんですけど、
はい。
えー、これはまあ避けて。
あ、そうなんですか。
別のコーデックを使って、あの、まあ別のコーデックを開発した会社を買収して作ったVP7、VP8、VP9というコーデックを、まあ主には採用してます。
で、H.264しか対応してないブラウザだったり端末だったりにはH.265を配信するし、まあ対応するコーデックを端末ごとに分けて配信しているので、まあYouTubeはこれを使っているっていうのは実は一つじゃないんですけど、
まあ推している規格としては今はVP9という規格になってます。
なるほど、いや全然知らなかったっていうか、なんか考えたことなかったの、その辺。
まあ、今、まあYouTubeに限らずネットフリーもまあほぼすべての動画配信サービスっていうのは、あの、一つの規格だけで映像を配信するとか、一つの解像度だけで映像を配信するっていうのは実はやってないんですね。
うーん、なるほど。
まあというのはなんか地下鉄とかでなんかTwitterとかYouTubeの動画とか見ると荒くなったりしてますよね。
あー、あんまない、見たことないですけど。
なんか実はその動的に、その、まあ利用できる帯域、あのデータの速さで通信の速さですね。に応じて、まあ方式だったり、その解像度だったりを変えて配信していることになります。
あー、なるほど、なるほど。スムーズに流れるようにっていうところを優先してっていうことですね。
そうですね。なので、まあちょっとそのデータの流れが悪くて回線が遅くてちょっと途切れるようだったらちょっと低い解像度の。
あー、なるほど。
配信に切り替えるっていうことをしています。まあこれはなんかインターネットならでは。
そうですね。
ですよね。
うん。
その放送だと、まあテレビみたいな放送だと、まあそもそも機器が対応してないといけないし、まあ電波っていう公共の一つしかないものに乗せて配信してるのでなかなかそういうことはできないと。
うんうん。
まあ正確には1セグとかありますけど。
なるほど。
あのちょっと解像度が悪いものを配信するっていう仕組みがありますよね。
ありますね、うん。
ですけどまあ基本的にはそういうことはできないけど、インターネットに関してはまあいろんなコーデックを選んで最適なものを配信するってことができるようになっています。
なるほどですね。
いやなんかYouTubeとかあのNetflixとかもそうですけど、そういう動画配信サービスってある程度1回枠組みを作っちゃえば、その後はそんなになんかいろいろいじるとこ、エンジニアがいじるところがそんなにないのかなってイメージを勝手に持ってたんですけど、
結構そうやってその企画の変更とか、あの状況に合わせるとか結構こうエンジニアリング的にも頑張らなきゃいけないところがあるんですかね。
そうですね、はい。企画はこう結構どんどん変わっていかないと、あの逆にちょっと情勢的にあのついていけないみたいなところもあるし、
まあ、なんかそのちょっと特許プールを悪者として語りすぎたような気がしますけど、知的財産保護という意味では、
そうですね。
でもやっぱ特許は守られて欲しいっていうのはあるわけじゃないですか。
で、実際に発明をして、それが実際に役に立っているのであれば、その発明者っていうのは保護されて欲しいし、経済的に報われて欲しいっていうのはあるわけですよね。
それもなんかね、JavaScript会の時にずっと言ってましたよね。
なんか作った人報われてくれみたいな。
そうそう。で、まあ、プログラムと違って、MPEGみたいな企画っていうのは特許が取りやすい領域だと言われているんですね。
なので、なんだろう、こう、モネタリザーしやすい反面、まあそういうふうなオープンな企画っていうのは生まれにくい仕組みでもあるわけです。
なるほど。
はい。
なんかその特許料の取り方なんですけど、配信ごとに取られるんですか、MP2例えば。
MP2に関しては、多分配信っていうのが当初は想定されてなかったんじゃないかな。
なので、エンコード、デコード、そのエンコードする機器を作るなら、0.1ドルとか0.2ドルとか、そのぐらいの単価の価格設定でした。
それはテレビを作る側が1台作るごとに何円みたいな。
はい。
で、配信側というかテレビ局も払う必要があるんですか。
テレビ局も多分払う必要があったのかな。
テレビ局が直接払ってるのか、それとも製作をするための機械を買うときにもうそこに含まれてるみたいな仕組みだったのかは、ちょっと調べきれてないですし。
実際に多分MPEG-LAと各社の契約だったはずなので、オープンに実際どのぐらい統一した価格設定だったのかっていうのはわかんないんですけど。
他に比べると良心的なというかリーズナブルな価格だったというのは言われているところですね。
なるほどですね。だからこそこうやって広まったっていうのはすごい何というか面白いなって思います。
H.264に関してはエンコードは0.25ドル、デコードは0.15ドルとかさっき言った個人可能受け渡しであれば免除とか、
小規模なデバイスを作る会社向けに5万台までは1つの会社だったら免除でいいとか、
1社から払われる金額はこのぐらいがマックスだよとかっていう上限とかもあって非常にお手頃みたいな、そういう売り目であったみたいです。
H.264は振り返ってみればこの同じ世代の中で一番成功したコーデックであったんですけど、当然その他のコーデックも同世代に存在したんですね。
多分それに対抗してというか、それを意識してより採用しやすいような価格形態を狙ったんじゃないかなと、今から振り返ると思います。