イーロン・マスク、Grok AIの子供向け安全モード「Baby Grok」を発表

イーロン・マスクは、「Baby Grok」と呼ばれる子供向けバージョンのGrokを発表した。このモードは、保護者の管理下で子供たちが安全にAIを使用できるように設計されている。

ベイビー・グロックとは

Baby Grokは、教育的で年齢相応の相互作用を目的としたGrokモードの縮小版である。ユーザーはGrokアプリのモード設定でこのモードを有効にし、保護PINでロックすることで、親がアクセスをコントロールできるようになる。マスクは、このリリースを以前の安全性のギャップへの対応と位置づけ、キッズモードは企業の配備に使用されるエンタープライズグレードの制限を反映していると述べた。

安全機能とその仕組み

発表によると、ベビーグロークはより厳格なコンテンツフィルタリングを適用し、オン／オフの切り替えには保護者用の暗証番号が必要である。xAIによると、セットアップは素早く、ユーザーフレンドリーに作られており、Xや開発者の投稿で共有された初期のレポートでは、ほとんどのテスターがプロセスを簡単に見つけたと述べている。同社は、このような制御を、子供たちが成熟したコンテンツや不適切なコンテンツに遭遇するのを防ぐと同時に、自然で教育的な会話を可能にする方法と位置づけている。

反応と背景

キッズモードは、以前のGrokコンパニオン機能が安全フィルターをバイパスすることがあったことから批判を受けたものだ。その反発を受け、xAIは汎用のフィルターに頼るのではなく、子供専用のモードを加速させた。ソーシャルメディア上の反応は様々である。一部の親や技術オブザーバーは追加されたセーフガードを歓迎しているが、一方で完全に独立した子供優先のアプリを主張したり、システムの信頼性が証明されるまで待つよう助言する者もいる。