bonotakeの日記

元・ソフトウェア工学系研究者、今・AI系エンジニア

ニューラルネットワーク使ったAIなんかめっちゃ簡単だから。俺天才wwみたいなフリすんのやめろ

スイマセン。クソ煽りタイトルですが、下記の記事のタイトル意訳しただけです。草生やして更にクソさを増してはいます。

個人的にはぜひ本文読んでこの記事のクソ煽りっぷりを満喫してほしいのですが、英語読むのもメンドクセという方に、何が書いてあるかをさらっとだけ説明すると。

要はニューラルネットワークって、↓のPythonで11行のコード分の処理やってるだけじゃね? こんなの使いまわした程度で「うはwww俺天才www」みたいな顔すんのやめろ、ってことのようです。

https://media.licdn.com/mpr/mpr/AAMABADGAAgAAQAAAAAAAA5JAAAAJDgzOWE4YWVhLTZhNDYtNGQxMy1hOWY5LWZmNGNkMWFiMjU0ZQ.png

まぁハッキリ言って、クソ記事www煽り乙wwwなんですけど。

でもぶっちゃけ、真実なんですよ。ある面においては。

僕も今の会社に入るまでディープラーニングに関する知識ほぼゼロだったけど、今は少なくとも、自分の業務に支障でない程度には理解できてるつもり。

ただ、ディープラーニングをメインでやってる人達がコンパイラやその下のハードウェア、いわゆる計算機科学の基礎みたいなところを学習するのは結構大変そうで、なんか学習曲線の非対称性みたいなものを感じています。

ディープラーニングが簡単、というより、今あるニューラルネットワークの仕組みや、TensorFlowやPyTorchみたいなツール・フレームワークといった辺りが相当整理されてて、技術がコモディティ化しているんだろうなぁと。

一方で、いわゆる「データサイエンス」とかその裏にある統計学的知識、データ分析のノウハウみたいなものは多分ちょっと文献に目を通したり多少コード書いたりした程度では身につかなくて、僕がもし、そこらへんメインでの仕事についてたら恐らくメチャクチャ苦労してたし、こんなナメた事は言ってないです。

実際、前職では機械学習データマイニングを研究しているラボになぜか所属していて、そっち系で一線張ってる人達と専門外の自分との彼我の差は当時すごく感じていたし、Bishop本(これ。和訳はこれこれ)独学は挫折したし、Hastie本(これ、タダ。和訳はこれ)の社内勉強会もついてくの大変でした。

ただ、僕の今のメインの仕事は、あくまで「ディープニューラルネットワークをハードウェア上に実装するコンパイラ屋」なので、正直そういう苦労は味わわなくて良いんですよ。ハッキリ言って。 大まかな仕組みは、線形代数と高校生レベルの微分の知識があったらとりあえずわかります。

山ほど入門本出てますが、とりあえず、昨年ベストセラーになった以下の本読めば、ホントに基礎の基礎みたいなところはひとまず押さえられます。いやホントに。

まぁ結局何が言いたいかっていうと、ディープラーニングなんて、大雑把に理解するだけなら簡単だから、コンパイラ屋さん、もっとウチの会社に来て! ってことです。

ご興味ある方は連絡(Twitterとかに)くだせい。

【2/18 追記】ブコメに、僕の仕事内容を「意味不明」と書かれた方がいらっしゃったので。

僕は今、こういうのを作っています。ディープニューラルネットワークを最適化し、主にFPGA向けのHDLに変換して出力するコンパイラの開発です。

www.slideshare.net

この辺の「バックエンド」と呼ばれる辺りも最近色んな所で開発が進んでいて、競争が激化しています。求められるのはコンパイラとプロセッサ設計の知識です。

ということで、よろしこ。

【/追記】

エンジニアと組織論

たまたまAmazon眺めてて、タイトルで「お」と惹かれた本があったので、紹介しとく。

2/22発売ってことで、現在予約受付中。

内容紹介を見ると、

「不確実性」を下げるための方法がわかります!

「コミュニケーションにおける不確実性を減らすには?」

「技術的負債を解消する方法とは?」

「経営陣とエンジニア間の認識のずれを解消するには?」

エンジニアリングにおける課題を解決する思考の整理方法やメンタリング手法を、

さまざまな企業の技術組織アドバイザリーを務めている著者が解説。

若手を戦力として育て上げ、成長する組織を設計・運営するためにおすすめの1冊です。

特に「技術的負債を解消する方法とは?」と「経営陣とエンジニア間の認識のずれを解消するには?」はすごく興味ある。てか前者、技術的負債を組織論で解消できるのだろうか。

僕は収納スペースの問題から、最近はなるべく電子書籍を買うようにしてる(紙の本は遠慮する)ようにしてるんだけど、これは迷うな……

ということで、とりあえずウィッシュリストに突っ込んでおきました。僕は今月末が誕生日なので、誰かプレゼントに買ってやってください。 → bonotakeのほしい物リスト

僕自身と組織論

僕は、前職で大企業にいたときは、所属組織がデカすぎたこともあって、組織運営なんてエライ人が勝手にやればええやん、的な感覚がすごくあって。 だから自分は関わりたくもなかったし、興味もなかったのだけど。

数十人規模のベンチャーに移ってみると、会社の経営・組織運営が1社員の自分にとっても凄く身近なものになったし、現時点で事実上サブマネージャー的なポジションに収まっていることもあって、がぜん組織論には興味が出た、気がする。

とはいえ、オッサン好みのビジネス誌を読み込んで戦国武将に自分を例えたりとか、そんなアホなことはしたくないのですけども。

ただやっぱ、Tech企業における、エンジニアが幸せになって自分のチームが幸せになって会社もハッピーになるような組織論はぜひ知っておきたいな、とは思う。

今までに気になった組織論

及川卓也氏の組織論

その点で過去、すごく感銘を受けたのは、この記事かなぁ。

hrnabi.com

エンジニアとマネジメント、Tech企業の組織を考える上ですごく良記事だと思う。 若手エンジニアも、そろそろオッサンに差し掛かったエンジニアも、あるいはエンジニアをたくさん抱えるチームのマネージャーも絶対に読むべきだし、本当に、Tech企業ってこうあるべきだよね、というのをすごく実感できる。こういう会社にいられたら幸せだろうな、とも。

非エンジニアマネージャがエンジニアチームと上手くやる方法

あと最近だと、けっこう物議を醸した感のある、この記事。

qiita.com

あまりにエンジニア至上主義な内容に反感を買うのもわかるし、僕も100%全面賛成できる内容ではないんだけど、ただまぁ、非エンジニアなマネージャーが苦悩の末に辿り着いた、一つの境地かな、とは思う。というか、エンジニアという人種の生態をよくここまで理解したな、という、まずそこに感心した。

エンジニアにおもねりすぎだという批判もあって、一面では真なんだけど。

ただちゃんと読めばわかるんだけど、 この人は優秀なエンジニアにこそおもねっているのであって、一般の凡庸なエンジニアは対象ではない、というあたりを読み間違えてはいけない。 むしろ「PMが(略)エッジの無い製品リードを始めたら即刻クビにします」など、エンジニアが優秀であるか否かについては非常にシビアな立ち位置にいる。

なんか、エンジニアだったらワガママになっていいんだ、と思っているかのようなエンジニアからの反応や、エンジニア相手なら何でもワガママ聞かなきゃいけないのか、といった非エンジニア、マネージャーからの反感をチラホラ見かけたんだけど、それは残念ながら真ではない。

そんなこんなで

なんか脱線しかけた感もあるけど、とりあえずタイトルだけで気になった本と、ついでに過去読んだ「エンジニアと組織論」に関する記事の紹介、でした。

冒頭の本は、もし手に入れたら、書評なども改めて書きたいと思う。

【緩募】機械学習・ディープラーニングとPythonの勉強会で聞きたいこと・言っておきたいこと

今月末にあるこのイベントで、司会することになりました。 mlxse.connpass.com 機械学習ディープラーニングと、プログラミング言語という両面から、”Python"という言語を見つめ直す会です。

参加者も、きっと両方の属性の人が集うんじゃないかと思ってます。

で、この勉強会、単に発表聞いて終わり、ではなく、最後はパネルディスカッション的に、会場の参加者も巻き込んで全員で議論する趣旨で企画しています。

ということで、この勉強会に参加・不参加問わず「こういうことを議論してほしい」「こういう話を聞いといて欲しい」みたいなネタをここで公募します。

ちなみにこの勉強会、元々、Preferred Networksの丸山宏さんが、プログラミング言語に関する国内ワークショップ PPL2018 で招待講演する、という話から

「じゃあ、その前に丸山さんに色々吹き込んでおこう」

と企画したものです。

で、その丸山さんも参加される予定なので、この勉強会で出た内容は、丸山さんを通じてPPLにフィードバックされる、かもしれません。(されないかもしれませんが)

PPLは国内のワークショップですが、日本のプログラミング言語研究者はガチ、というか、世界レベルの人が勢揃いしてます。 なので、僕らのこの勉強会も、国際的なインパクトは少なくない、のでは、などと考えていますw

ということで、もし何かありましたら、この記事にコメントか、 twitter @bonotake にメンション・DM飛ばして下さい。

ビットコインの価格が既に採掘の損益分岐点を下回り始めた件

友人と某所で話してて、ビットコインの価格が「採掘の損益分岐点を下回ったらしい」という話になり。

それは興味深い、と思って軽く調べてみると、こんな記事が↓

www.bloomberg.co.jp

この記事は先月のなので「半額になっても…」と書いてるんだけど、実はもうとっくに半額切ってる

記事によると、中国での採掘損益分岐点は6925ドルだそうだが、

https://invst.ly/6k5e1

これが過去24時間の、bitfinexでのチャート。真ん中のオレンジのラインがおおよそ6925ドル。1日の半分は下回ってることになる。ヤバイ。

まぁ損益分岐点を下回ったらすぐビットコイン死亡、というわけではないだろうけど、この状況がずっと続けば、あるいは更に価格が下回るようになれば、現在のビットコイン価格を支えている中国資本の多くが撤退することになるだろうし、そうすると価格はさらに雪崩式に下がっていく可能性も。

そして、流通すら困難なレベルで採掘者が撤退してしまうと、それこそビットコイン完全死亡のお知らせ、かもしれない。

ただし、先の記事によると、

中国の正規の電力料金は最高でも、1キロワット・時間当たり0.13ドルだが、電力業界の供給能力過剰のため交渉によっては同0.03ドルの低料金すら可能だとル氏は書いている。この場合、損益分岐点は3869ドルになるという。 (強調は引用者)

とのことなので、もし損益分岐点が現在既に3869ドルあたりまで下がってるとなると、さすがにその価格を下回るのはもう少し先の話になりそう。

【追記】ちょうど今日付けの記事で、上の記事の元ネタになってるBNEFが、こんなことを言ってる。

newspicks.com

【/追記おわり】

非エンジニアな初心者にもわかる(かもしれない)コンピュータの基礎を紹介する本

僕は普段、ディープニューラルネットワークをハードウェア(主にFPGA)上にコンパイルするお仕事をしてるわけですが。

昨日、同僚の女性(非エンジニア)のHさんから、

bonotakeさんがしてる仕事を理解したいので、入口的な、比較的簡単そうな、オススメの書籍を紹介してほしい

と頼まれまして……

いやー、DNNをFPGAに変換する業務を1冊で紹介できる本なんて、たぶん世界中のどこ探してもないでしょ……

てな感じで、どこが知りたいのかもう少し聞いてみると、要はハードウェアの知識がないので、そのへんの仕組みを知りたいと。

ということで、とりあえず紹介してみたのが以下4つ。

コンピュータの基本構成と動作原理〜知識編

qiita.com

本じゃなくてQiitaの記事ですけど、とりあえずHさんの反応を見るために紹介してみました。で、このレベルならまぁとっつきやすいと。

とはいえこの記事だけだと短すぎて、きちんと理解を深めるのは難しいですよね。たぶん。

ディジタル作法 −カーニハン先生の「情報教室」−

ディジタル作法 −カーニハン先生の「情報」教室−

ディジタル作法 −カーニハン先生の「情報」教室−

SNS経由で社外の知人に意見を求めたところ、オススメされたのがこれ。そしてこの本を担当した編集者も知ってる方(笑)

あのK&Rのカーニハン先生がこういう本書いてたんですね。オススメした知人曰く

リテラシ高い人でコンピュータだけは今まで知る機会がなかった、というケースにぴったり

だそう。裏を返せば、リテラシーがある程度要求されるということでしょうか。

ハードウェア・ソフトウェア・コミュニケーション の3章立てになってるとのことで、ハードウェアだけというよりは本当にコンピュータ全体を俯瞰する本て感じなんでしょうね。

CPUの創りかた

上記の本より、もう少しハードウェアに特化した本ということで、こちら。

CPUの創りかた

CPUの創りかた

これ、出たときは相当話題になりましたよね。中身と、あと表紙(笑)

今でこそこういう萌え絵が表紙の技術書ってよくありますけど、たぶんこの本が最初なんじゃないかなぁ。

当時も絶賛されてましたが、とっくに絶版になったと思ってたら未だに売れてるんですね。アマゾンでベストセラーだし、レビューでも絶賛されてるので驚きました。

むしろ、表紙が萌え絵の本が普通になった今だからこそ、中身がきちんと評価されてる、のかもしれません。

コンピュータシステムの理論と実装―モダンなコンピュータの作り方

コンピュータシステムの理論と実装 ―モダンなコンピュータの作り方

コンピュータシステムの理論と実装 ―モダンなコンピュータの作り方

おそらく、『CPUの創りかた』の類書。オススメした理由は、僕がAmazonにオススメされたからw

とはいえ名前だけは前から知ってて、気にはなってたんですよね。こちらもベストセラーだし。

『CPUの〜』に較べると新しく、2015年発行の本です。で、邦訳はオライリーですが、原著はMIT Press。

The Elements of Computing Systems: Building a Modern Computer from First Principles (MIT Press)

The Elements of Computing Systems: Building a Modern Computer from First Principles (MIT Press)

なので、基礎から入っている入門本とはいえ、結構本格派の本といえるかも。NANDゲートの仕組みから入ってOSまで説明するという、結構基礎からがっつり勉強する感じではあります。

てな感じで

オススメしてみたのはいいものの、CS系学科出身のエンジニアが、非エンジニアの方に本を勧めるのはやっぱり難しいです。さじ加減がわからないですからねぇ。あんまり「非専門家にもわかりやすく」書きすぎた本だと、ちゃんとした理解にならないことが多いし。かといって数式バリバリ並べるような本も厳しいだろうし。

そんなあたりで、若干苦し紛れに勧めてみた感じではありますが、どうでしょう。Hさんの読んだあとの感想が気になります。

日経平均少し戻したか

  • 日経レバETF-4,910
  • 新たに仕入れたダブルインバース日経: -5,300

なんでやねん。

日経平均がええ感じで落ちとるな

現在のところ、

  • One Tap BUY で買った日経インバETF: +114
  • SBI証券で買った日経レバETF: -8810

いい感じで血吹いてます。

注:bonotakeは、amazon.co.jpを宣伝しリンクすることによってサイトが紹介料を獲得できる手段を提供することを目的に設定されたアフィリエイト宣伝プログラムである、 Amazonアソシエイト・プログラムの参加者です。