マガジンのカバー画像

Catch up on AI

388
海外のAI関連のキャッチアップした情報をできる限り、noteでまとめていきます。
運営しているクリエイター

#ai動画

AIとわからない動画Arcads AIを使用して生成された動画 他 / Catch up on AI 2024.3.27

Pick up生成AIでフルで生成されたか、Deepfakeかが議論となっていましたが、その争点より、気軽にできることに対して知識とリスク管理をしたほうが良いと感じた動画。 Arcads AI Deepfake Video https://www.resemble.ai/arcads-ai-deepfake-video/ Catch up on AI3秒で解説動画に変換するAI NoLang 2か国語の字幕で語学を学ぶ Miraa AI セマンティックガウスという概念

写真1枚と動きの参考動画からアニメを生成できる新機能 他 / Catch up on AI 2024.3.25

Pick up静止画と動画をあわせて、一つのアニメーションを生成できる新機能。これはなかなか手軽。様々な実験を試みてみたいと思います。 Domo AI https://discord.com/invite/domoai Catch up on AIアニメーター x 生成AI 実験 動画内のターゲットオブジェクト認識 格ゲーでLLMの性能評価 様々な人間のテクスチャを生成 TexDreamer AIで3Dアニメーションサイト構築 3Dデータと連携 一貫性の高いアニ

超自然な動きが魅力な動画生成フレームワーク「DynamiCrafter」 他 / Catch up on AI 2024.2.5

Pick upDynamiCrafterは、テンセントが発表した新しいAIによる動画生成フレームワーク。花びらや花火など表現が難しい画像が、かなり自然な形で画像から動画を生成できています。 プロジェクトページでは様々なサンプルが、またHuggingFaceではデモも公開されています。 DynamiCrafter Project - https://doubiiu.github.io/projects/DynamiCrafter/ arXiv:https://arxiv.o

モーションの目的を指示可能な動画生成モデル「MotionDirector」他 / Catch up on AI 2024.2.3

Pick up外見とモーションを別々に学習し、それぞれを組み合わせることが可能な動画生成モデル。参考にする動画を入力し、モーションはそのままに、プロンプトを掛け合わせ動画の生成が可能です。 MotionDirector: Motion Customization of Text-to-Video Diffusion Models Project: https://showlab.github.io/MotionDirector/ arXiv: https://arxiv.o

クリエイター×AIの最高峰レベルの動画 他 / Catch up on AI 2024.1.25

Pick up基本はAfter Effectsを利用した動画だが、一部にAIの技術を使って作られた、ほうきにまたがり、魔法を放つスピード感あるムービー。 AIの部分は、Midjourneyで衣服を生成し、Runwayのモーションブラシで服のアニメを生成。 使われているのは一部だがAIの可能性を感じる作品 Catch up on AI日本のアニメ音声データセット「Japanese-anime-speech」 MidjourneyのWEB版がアップデート マルチモーショ

動画生成AI Gen2でアニメキャラの表情まで制御 他 / Catch up on AI 2024.1.20

Pick upGen2のマルチモーションブラシを利用して表情のアニメを生成。 マルチモーションブラシになったことで全体の作画が崩れにくくなっているため実現。 細かく指定することで、表情までコントロールが可能です。 Catch up on AIAIで表情操作を実写で試す Midjourney v6はデザイン業務に耐えられるか? 海外のゲーム開発者は生成AIを50%が利用 Midjourneyで360度VR用画像を生成 一貫性が素晴らしいAI動画 Stable Vide

Moore-AnimateAnyone事例集 他 / Catch up on AI 2024.1.13

Pick upAnimateAnyoneが再現!多少異なる実装で再現しているそうで、現在おおよそ80%ほどの再現度となっています Python、3.10以上、CUDA11.7で、venv環境で、pipでrequirements.txtを叩くだけなので比較的用意にインストール可能! Moore-AnimateAnyone Code:https://github.com/MooreThreads/Moore-AnimateAnyone ModelCard:https://hu

SDXLとAnimateDiffで生成されたペーパークラフトアニメ 他 / Catch up on AI 2024.1.7

Pick up動画はiPhoneで撮影し、スタイルはIPAdapterによって再現しているとのことです。スケボーの習い事とかで、アニメだとプライバシー配慮がなされているので良いというご意見もあったのですが、そういう使い方も考えられますね。 IPAdapterの入力で大きく出力が異なるのが面白い。 Catch up on AIAI動画のもう一つの可能性「AI VFX」 汎用ヒト型AIロボットも革新的な進化が!? アート作品の無限ループ「Infinite Art Trav

画像から高品質な動画を実現「I2V-Adapter」他 / Catch up on AI 2023.12.30

Pick up画像から動画を生成可能なI2V-Adapter。 ControlNetと組み合わせると、ダンス動画なども生成可能。様々な可能性を秘めた技術です。まだコードなどはComingSoonとなっています。 I2V-Adapter: A General Image-to-Video Adapter for Video Diffusion Models project: https://i2v-adapter.github.io/index.html paper: ht

主要な動画生成AIの同一条件でのアウトプット検証 他 / Catch up on AI 2023.12.27

Pick upGoogle VideoPoetと、代表的な動画生成AIの、Runway、Pika、Genmoによる動作の比較をまとめたデモ動画。 画像+プロンプトで様々な生成対象での検証が行われています。 AIによっても大きく特徴が分かれる。特性を理解してアウトプットイメージが事前に描けるようになると強い。 Catch up on AIAIアニメにも演出を!演出カットを入れるだけで劇的にクオリティが変わる 動画生成AIのカメラを自在にコントロール「MotionCtrl」

生成画像に驚異的な一貫性を持たせる「DreamTuner」他 / Catch up on AI 2023.12.23

Pick upByteDanceがリリースしたDreamTuner。画像をテキストで操作する際に一貫性を保てない問題がありましたが、DreamTunerではその問題を解決できる可能性。 DreamTuner: Single Image is Enough for Subject Driven Generation Project:https://dreamtuner-diffusion.github.io Paper:https://arxiv.org/abs/2312.1

テキストで動画を変換・操作できる「VidToMe」他 / Catch up on AI 2023.12.21

Pick upテキストで動画を変換・操作できる「VidToMe」。ローカルで動作し、オープンソースで提供されるため非常に使い勝手が良く、気軽に使える動画生成AI。video2videoを気軽に楽しめます。 VidToMe: Video Token Merging for Zero-Shot Video Editing Project:https://vidtome-diffusion.github.io arXiv:https://arxiv.org/abs/2312.10

映像から3Dシーンをリアルタイムに再構築「Gaussian-SLAM」他 / Catch up on AI 2023.12.18

Pick up3D Gaussianでも驚きでしたが、Gaussian-SLAMは映像から、リアルタイムに3Dシーンを生成する技術。 学習なしで、映像のみで3Dシーンの構築は凄まじい進化。 Gaussian-SLAM: Photo-realistic Dense SLAM with Gaussian Splatting Project:https://vladimiryugay.github.io/gaussian_slam/ Paper:https://ivi.fnwi

Tiktokを手掛けるByteDanceが音楽生成AI「StemGen」他 / Catch up on AI 2023.12.16

Pick upTiktokを手掛けるByteDanceがが音楽生成AI、StemGenのプロジェクトページを公開。多くのサンプルと原理が掲載されています。 大枠の仕組みとしては 1.入力された音楽クリップを分析 2.音楽を理解 3.モデルデータと合わせて音楽生成 music-to-musicとも言える生成AIが出現。まだデモやコードの公開はされていませんが、これがリリースされると大きく音楽生成AIも情勢が変わってきそうです。 音楽生成AI StemGen Projec