Citadel AI (https://www.citadel.co.jp)

「信頼できるAI」の社会実装を実現する、株式会社Citadel AIの小林です。 最近…

Citadel AI (https://www.citadel.co.jp)

「信頼できるAI」の社会実装を実現する、株式会社Citadel AIの小林です。 最近ChatGPTが話題になっていますが、人間同様AIは「知らないことに遭遇すると間違えてしまう」という側面を持っています。そんなAIのちょっとした疑問に対するヒントを配信して行きたいと思います。

記事一覧

LLM向けアプリケーションのOSS検証ツール「LangCheck」

生成AIを安心・安全な形で社内導入したいという方、是非ご覧ください!

大規模言語モデルの信頼性向上ツールLangCheckをOSSで公開

企業や公的機関・教育現場等で導入検討が進んでいる、大規模言語モデルを用いた業務アプリケーションについて、その信頼性を向上するツール「LangCheck(ラングチェック)」…

AI の標準化と法規制に関する動向: 2023 年版

AIの規制についての議論が次第に活発になりつつあります。このトピックに関する活動はグローバルに行われていますが、主に EU で活発に行われており、AIに関する標準やガイ…

機械学習システムとテスト (2/4)

このシリーズでは機械学習システムにおけるテストについて考えていきます。全 4 回を予定しているうちの今回は第 2 回目です。 第 1 回目では機械学習システムのテストと…

機械学習システムとテスト (1/4)

このシリーズでは機械学習システムにおけるテストについて考えていきます。次の図は DevOps のプラクティスにおいてテストが密接に関わっていることをよく表しています。(…

💗 MLOpsを、AIを育てる楽しい仕事に!

本年夏に、弊社杉山阿聖がMLSE(機械学習工学研究会) 夏合宿にておこないました講演「Introduction to MLOps : 機械学習アルゴリズム以外のさまざまな課題とその取組につい…

#信頼できるAI のビデオ配信始めました。

AIに関わる ちょっとした疑問にお答えする #信頼できるAI にかかわるビデオを Twitterにて配信開始しました。ホームページとあわせてご覧ください! このブログでは、今ま…

「AIの信頼性やリスクとその対処法」に関わるビデオ配信を開始

企業の皆様がビッグデータを活用し、 差別化を進めて行く上で、 AIは非常に強力で有効なツールです。 その一方で、 AIの学習や運用方法を誤ると、 これまでのシステムでは…

大規模言語モデルの信頼性向上ツールLangCheckをOSSで公開

大規模言語モデルの信頼性向上ツールLangCheckをOSSで公開

企業や公的機関・教育現場等で導入検討が進んでいる、大規模言語モデルを用いた業務アプリケーションについて、その信頼性を向上するツール「LangCheck(ラングチェック)」を、GitHub上でオープンソースとして10月12日公開しました!
https://x.com/CitadelAI/status/1712231414614167832?s=20

大規模言語モデルとそのアプリケーションの開発・運

もっとみる
AI の標準化と法規制に関する動向: 2023 年版

AI の標準化と法規制に関する動向: 2023 年版

AIの規制についての議論が次第に活発になりつつあります。このトピックに関する活動はグローバルに行われていますが、主に EU で活発に行われており、AIに関する標準やガイドライン、法整備はすでに進められてきています。

AI の規制に対して日本がとっている「ソフトロー」的なアプローチと並行し、特に 欧州ではEU の AI Act が近々成立・公布される見込みであり、日本の企業も AI Act が提唱

もっとみる
機械学習システムとテスト (2/4)

機械学習システムとテスト (2/4)

このシリーズでは機械学習システムにおけるテストについて考えていきます。全 4 回を予定しているうちの今回は第 2 回目です。

第 1 回目では機械学習システムのテストと通常のソフトウェアのテストを比較し、「テスト項目の設計」や「妥当性の評価」が困難であることを確認しました。第 2 回目以降では具体的な機械学習パイプラインを想定し、さまざまなテストについて具体的に検討します。

想定する機械学習パ

もっとみる
機械学習システムとテスト (1/4)

機械学習システムとテスト (1/4)

このシリーズでは機械学習システムにおけるテストについて考えていきます。次の図は DevOps のプラクティスにおいてテストが密接に関わっていることをよく表しています。(図はブログポスト Continuous Testing in DevOps… — Dan Ashby をもとに弊社で作成しました)

システム開発においてテストは必要不可欠なものであり、開発のすべての工程と密接に関わっています。この

もっとみる

💗 MLOpsを、AIを育てる楽しい仕事に!

本年夏に、弊社杉山阿聖がMLSE(機械学習工学研究会) 夏合宿にておこないました講演「Introduction to MLOps : 機械学習アルゴリズム以外のさまざまな課題とその取組について」が非常に好評でしたので、シェアさせて頂きます。MLOpsとは「AIを育てる仕事であって、楽しい仕事にしましょう!」というのがテーマです。1時間と長いのですが、ご参考になるところも多いと思いますので、週末等お もっとみる

#信頼できるAI のビデオ配信始めました。

#信頼できるAI のビデオ配信始めました。

AIに関わる ちょっとした疑問にお答えする #信頼できるAI にかかわるビデオを Twitterにて配信開始しました。ホームページとあわせてご覧ください!
このブログでは、今まで配信した 記事をまとめてご覧頂くことができます。続々と配信していきますので、もし何か「これが知りたい」といったようなご要望がございましたら、是非お寄せ下さい。

従来のシステムとAIの違いって何?



AIの学習時と運

もっとみる
「AIの信頼性やリスクとその対処法」に関わるビデオ配信を開始

「AIの信頼性やリスクとその対処法」に関わるビデオ配信を開始

企業の皆様がビッグデータを活用し、 差別化を進めて行く上で、 AIは非常に強力で有効なツールです。 その一方で、 AIの学習や運用方法を誤ると、 これまでのシステムでは考えられなかったような、 ビジネスやコンプライアンス上のリスクに繋がる、 解明困難な想定外の問題が発生する側面を秘めています。

AIをビジネスや社会で最大限有効活用するためには、 開発の瞬間だけではなく、 継続的に見守り、 学習を

もっとみる