さくらのTech Day #sakuratechday
こんにちは、さくらインターネットの大喜多です。2024年11月12日に「さくらのTech Day」を開催しましたので、その様子をレポートいたします。さくらインターネットでは、エンジニアが技術について好きに語るということをテーマに「さくらのテックランチ」を開催しておりますが、今回はその拡大版ということで、15:00～18:00の3時間に渡ってお届けしました。
目次
なんとなくわかった気になる生成AIの仕組み
事業開発部の小田島より、「なんとなくわかった気になる生成AIの仕組み」と題してセッションがはじまりました。
生成AIについて調べようとしても、ChatGPTの使い方などは出てくるが、そもそも生成AIがどのような仕組みで動いているか、どうやってデータ生成しているのかという情報はそれほど多くなく、概念的な説明にとどまっているか、その逆に数式が大量に出てくる学術的なものの二極化している状況ということで、今回は初学者向けに生成AIの仕組みをなんとなく理解できることを目標にセッションに臨んだとのことです。数学的な知識が必要なところをできるだけ数学的な知識がなくても理解できる内容としたため、一部の人からは厳密さに欠けるという指摘を受けるかもしれないが、そこはご了承いただきたいとの補足がありました。
生成モデルとか言語モデルという言葉はよく聞きますが、そもそもモデルとは何かということで、「自然界に存在するものやことを数学的・数値的に表現したもの」とし、自然現象・ユーザー情報・商品情報・日本人の17歳の成長分布などを例に挙げ解説しました。いずれも数式で表現することができ数式も出てきましたが、数式の意味については理解できなくても、数式で表現できることがわかればよいとしました。生成モデルとは確率分布モデルの一種であり、これがあればデータ生成ができるということです。範囲の中でランダムに値を生成することと何が違うのかというと、生成したい情報というのは複数の数値の組み合わせで、相関関係に齟齬が出ないようにするためにこのようなモデルが必要となるとのことです。
また、モデルについてさらに理解するためには以下のような数学の知識が必要となることも紹介されました。
高火力 DOKを支えるインフラのお話
SRE室の芦野より、高火力 DOKのインフラについてのセッションがありました。高火力 DOKはWebUIとAPIを含むバックエンドとコンテナ実行基盤のインフラとの3つの要素によって構成されており、それぞれ以下のように連携して動作します。
コンテナ実行基盤としては社内に多くのコンテナオーケストレーターの知見がありましたが、GPUエコシステムとAPIの観点からKubernetesが選ばれました。
Kubernetesのクラスターをどのように構成したかについては、シングルノードのKubernetesクラスターを採用したとのことです。ジョブスケジューラーは自社で開発しています。
コンテナへのGPUの割り当ては複数の方法があった中から、パフォーマンスと公平性の観点から、そのまま割り当てるパススルー方式を採用したとのことです。コンテナ実行環境の構築についてはTerraformとAnsibleを使用して実現しており、V100用の環境とH100用の環境の差異もここで吸収しているとのことです。
今後は高火力 DOKのさらなる機能開発に取り組むと同時に、Kubernetesクラスターを運用できる人員を増やすために勉強会を開催しているとのことで、発表の締めとしておりました。
ガバメントクラウド開発と変化と成長する組織
クラウド事業本部 副本部長 兼 SRE室 室長の長野より、ガバメントクラウド開発と、それに向けて組織をどう変えていったかのセッションがありました。
さくらインターネットがガバメントクラウドに取り組む意義として、マクロな視点からはデジタル安全保障の面やデジタル貿易赤字の解消といった面が挙げられ、ミクロな視点からはさくらのクラウドをガバメントクラウドに適合させていくことでサービスの高度化を図り、多くのユーザーに安心して利用してもらえることを意図していると挙げられました。
組織については当初は2チーム体制で開発・運用を手がけていたところを4つのチームに分け、サービス理解の迅速化やアメーバ状の担当分野の解消といったこを図ってきたことが説明されました。
チーム分割にあたっては、読書会や議論を重ねることにより共通認識を持ち、適宜1on1を実施して進めてきたと説明されました。各チームの担当分野は図に記載の通りに定められ、「ガバメントクラウドプロジェクト」という終わりのあるプロジェクトではなく、継続してサービスを改善・運用していくことを目的としているとしました。
パブリッククラウドにおける機密コンピューティング
技術担当執行役員 兼CIO CISOの江草から、パブリッククラウドにおける機密コンピューティングについてのセッションがありました。機密コンピューティングとは英語でConfidential Computingとも呼ばれ、「ソフトウェアが実行されている間のメモリを暗号化することによって内容を秘匿して処理を行う技術のこと、およびその秘匿性を保証・確認するための機構」としました。
機密性を保持しながら処理を実行するためのハードウェアで隔離された領域のことをTEE（Trusted Execution Environment）と呼び、TEEを使用するためには専用の命令を利用し専用のソフトウェアを開発する必要があるとしました。TEEはサーバよりもモバイル端末で利用されることが多く、顔認証・指紋認証の処理や決済処理などに用いられているとのことです。仮想マシン全体を隔離し保護する技術としてVirtualization-Based TEEというものがあることを説明し、これを使用するとパブリッククラウドにおける機密コンピューティングが現実的な話となってくるとのことです。実際にはこれに加えて安全に使用するための条件としてディスクの暗号化や安全の確認・安全を確認した後に復号するといった処理が必要になるとのことです。
具体的に安全を確認するとはどのようなことを行うかというと、その仮想マシンが本当にTEEによって保護されているのかということを確認することで、Virtualization-Based TEEはCPUの機能であるからCPUに状況を聞けばよく、CPUからアテステーションレポートを取得するといったことが必要になってくるとのことです。アテステーションレポートには以下のような内容が含まれているとのことです。
起動時の改ざんをどのように検知するかについては、物理サーバの場合はTPMとSecure Bootで実現できるとのことです。仮想化環境の場合は以下の2種類の方法があり、さくらインターネットではvTPMを使用した方式を採用するとのことです。
最後にまとめとして、仮想化基盤や管理システムを自社開発しているとこのような面白いことにも取り組めるということを挙げていました。
なお機密コンピューティングについてはさくらのナレッジに記事がありますのでご覧ください。
座談会「さくらで働くって楽しい？」
最後にクラウド事業本部の伊東・田籠・土屋をメインとした座談会がおこなわれました。モデレーターはコミュニティマーケティンググループの法林が、司会はES本部の江野澤が務めました。
座談会は以下6つのテーマに沿って進められました。
『どうしてさくらの入ったの？』では、以下のような趣旨のコメントがありました。やはりガバメントクラウドや生成AI向けクラウドサービスに取り組んでいるというのが大きかったようです。
田籠：さくらはガバメントクラウドやGPUサービスなどビジネスのインパクトが非常に強く面白かった。エンジニアからポジションを少し変えようと思っていたところにプロダクト担当というオファーをいただいたこと。その会社自体がいいというのと、自分のポジション的なところがよかったという2点。
土屋：技術書の執筆やYouTubeチャンネルの運営などもしており本来はフリーランスになろうとしていた。さくらには業務委託でやらせてもらえないかという話をしたが、週4日勤務でもいいので正社員としてどうですかというオファーがあったので受けた。また、大きいインフラを持っている会社で新しいビジネスを始めるというのがレアケースで、面白かったというところ。
伊東：自分は一旦さくらから出て戻ってくるかたちになったが、日本にインパクトを与えられる仕事がしたかった。今のさくらはガバメントクラウドに取り組んでいて、日本にインパクトを与えられそうだと思い戻ってくることを選択した。
『外から見たさくらと中から見たさくら』では、以下のような趣旨のコメントがありました。ここでもガバメントクラウドについてのコメントがあり、ガバメントクラウドによって変化した部分はあるようです。
伊東：一度外に出て戻ってきたが、人の入れ替わりはあったものの雰囲気はそれほど変わっていなかった。さくらは技術が好きなエンジニアが多い。ガバメントクラウドをはじめたことで今までいなかったような人が増えていてそこは少し雰囲気が変わったなと思った。一方、これやったら儲かるぞみたいな人は前職に比べると少ない印象。
田籠：さくらは知り合いも多くいたので外にいたときとエンジニアの雰囲気はそれほど変わっていなかった。一方、ビジネス職の人を増やしていて、そこは雰囲気が変わった部分だと思う。あと、在籍期間が長い人が多い。10年以上いる人が結構いる。自分は4年いたら移るよねみたいな環境でやってきたので意外な点だった。
土屋：入る前は技術大好きな野生のギークが多いイメージがある一方、社長がビジョナリーなことを語るのでトップダウンが強いのかなと思っていたが、実際入ってみると野生のギークはいたがボトムアップでプロジェクトなどを進めている印象。社員が何をしたいかを大事にする会社。あとは、社長からマネージャー層まで技術がわかる人が多いので、上の人がわかってくれないから大量に資料作るみたいなことがない。
『さぶりこ使ってる？』では、さくらインターネット独自の勤務制度の総称である、さぶりこについて、実際活用しているかのトークが繰り広げられました。子供の年齢がまだ小さいため園の保護者面談などのイベントに引っ張られることがあり、そのようなときに活用されているようです。またさぶりこフレックスと半休を併用して、朝早く始めてPM半休をとると午後を大きく空けることができ助かっているという意見もありました。
『もっと良くしていきたいところ』では、プレイングマネージャーが多くマネージャーに負担がかかっていることから、もっとエンジニアリングマネージャーのような人が増えると良いとか、各サービスの整合性を考えたり、整理する必要があるとか、そのようなことをする人がもっと増えるべきなどの意見があがりました。
『どんな人がさくらに来てくれるとうれしい？』では、エンジニアとして世間でも名の知られている強い人がたくさん入ってきているので、一緒に強くなろうという意識がある人が来るととても面白いと思うという意見や、インフラやネットワークをデザインできる人がまだまだ少ないのでベテランでも活躍できる場があるのでぜひ来てほしいという意見や、0からサービスを開発して提供できるところまで持っていけるシニアなソフトウェアエンジニアが来てほしい、またそれに併せてアーキテクチャーを動かしたまま作り直していくみたいなことが必要になってくるので、そういうことができる人が来てほしいというような意見がありました。
まとめ
生成AIやガバメントクラウドなどの取り組みから、組織としてのさくらインターネットを知っていただける機会になったかと思います。今後もこのようなイベントで情報発信していければと考えておりますので、ぜひよろしくお願いいたします。