本文へスキップ
jaen

Product division — Institute of LAG Research

停滞を呑み込み、リスクを噛み砕く。

AIの導入は、効率と安全のトレードオフだと語られがちです。速く進めれば危うく、慎重になれば止まってしまう、と。

しかし、そのどちらかを選ぶ必要はありません。SVELGRは、積み重ねられてきた科学の知見と洗練されたUXデザインでAIを導入し、厳格にそのAIを疑い続けます。導入・開発、監査まで、ひとつの研究所の中で。

相談する取り組みを見る

01Services

事業内容

つくる。確かめる。

AIを事業に組み込むことと、そのAIが安全であると確かめること。SVELGR はこの二つを、切り離せない一つの仕事として扱います。

ABuild

AIシステムの導入・開発

業務やプロダクトへのAIの組み込みを、要件の整理から設計・実装・運用まで一貫して支援します。安全性は後から足すものではなく、設計の出発点に置きます。

たとえば

  • 01活用領域の特定と要件定義
  • 02アーキテクチャ設計とモデル選定
  • 03LLM・機械学習システムの実装
  • 04既存システム・データ基盤との連携
  • 05ガードレールと評価基盤の構築
  • 06運用・モニタリングの設計

BVerify

AIシステムの監査

開発中、あるいは稼働中のAIシステムを、独立した視点で検証します。懸念を洗い出し、その重大度と、対処の優先順位までを示します。

たとえば

  • 01対象システムのリスク評価
  • 02レッドチーミング・敵対的テスト
  • 03出力品質と評価設計のレビュー
  • 04データの取り扱いとプライバシーのレビュー
  • 05ガイドライン・法規制との整合確認
  • 06改善提案を含む報告書の提出

上に挙げたのは一例です。範囲と進め方は、ご相談の内容に応じて設計します。

02Audit scope

監査の観点

AIがもたらす懸念を、六つの観点から。

AIシステムのリスクは、一つの領域には収まりません。技術・データ・組織にまたがる観点から、システム全体を検証します。

  • SEC-01

    セキュリティ

    プロンプトインジェクション、情報漏えい、権限の逸脱など、AIに特有の攻撃面を検証します。

  • PRV-02

    プライバシー・データ保護

    個人情報や機密情報が、学習・推論・ログの各段階でどう扱われているかを確認します。

  • REL-03

    信頼性・品質

    ハルシネーションや出力のばらつきを測定し、評価の設計そのものが妥当かを見直します。

  • FRN-04

    公平性・透明性

    出力に偏りがないか、判断の根拠を説明できる状態にあるかを検証します。

  • GOV-05

    ガバナンス・法規制

    社内規程や、国内外のガイドライン・法規制との整合を確認します。

  • OPS-06

    運用リスク

    監視、インシデント対応、人による監督が、実運用で機能するかを点検します。

03Approach

進め方

小さく始め、検証しながら進める。

導入も監査も、同じ規律で進めます。各段階で、何が分かり、何が残っているのかを明確にします。

  1. 01Discover

    把握

    業務・システム・データの現状と、目的・制約を整理します。

  2. 02Design

    設計

    安全性の要件を含めて、アーキテクチャと評価基準を定めます。

  3. 03Build

    実装

    小さく作り、検証を重ねながら本番品質へ引き上げます。

  4. 04Verify

    検証

    セキュリティ・品質・ガバナンスの観点から、テストと監査を行います。

  5. 05Operate

    運用

    モニタリングと継続的な改善で、安全な状態を保ちます。

04Products

プロダクト

自社のプロダクトで、実践する。

AIを安全に組み込むとは、具体的に何をすることなのか。SVELGR はその答えを、自社のプロダクトでも形にしています。

P-01Memori

まもなく App Store で公開

めもり

育児記録アプリ — iPhone・iPad・Apple Watch

授乳・睡眠・体温・成長を記録し、写真と動画を残し、家族と分かち合うためのアプリです。記録の積み重ねから、AIがパターンを見つけ、次の授乳や睡眠を予測します。その設計には、SVELGR が企業に提案するのと同じ判断が入っています。

memori.baby を見る

設計上の判断

  1. 01

    データを、外に出さない。

    予測・パターン検知・写真の人物認識は、Core ML によって端末の中だけで処理します。

  2. 02

    同意を、設計に組み込む。

    研究へのデータ活用は、それに同意して選ぶプランに限り、匿名化した統計として行います。研究協力なしのプランでは、投稿やアルバムをエンドツーエンドで暗号化します。

  3. 03

    収益を、データに頼らない。

    広告は出さず、個人情報を販売も共有もしません。運営は月額プランで成り立たせます。

05About

SVELGRについて

研究機関から生まれた、実装のための部門。

SVELGR は、Institute of LAG Research のプロダクト部門です。LAG は計算医学やニューロシンボリックAIなどの研究に取り組む研究機関であり、SVELGR はそこで培われた知見と検証の姿勢を、自社のプロダクトと、企業のAI活用の現場へ持ち込みます。

原則

  1. 01

    安全性を、設計の起点に。

    機能ができてから対策を足すのではなく、最初の設計判断から安全性を組み込みます。

  2. 02

    主張ではなく、検証で示す。

    「安全です」と言う代わりに、テストと評価の結果で示します。

  3. 03

    研究の厳密さを、実務へ。

    研究で培った方法論を、現場の品質保証に応用します。

Institute of LAG Research のサイトへ

06Contact

まずは、現状をお聞かせください。

AIの導入をご検討中の方も、すでに稼働しているAIシステムに不安をお持ちの方も。課題がまだ整理できていない段階でのご相談を歓迎します。

メールで相談するcontact@svelgr.com