エッジAI

A collection of 37 posts
LEASH

弱いAIを走らせ、危なくなったら強いAIに引き継ぐ——論文「LEASH」が示す「必要なときだけ強いモデル」の設計

はじめに:コンピュータ操作エージェントは、なぜ「使い続けられない」のか コンピュータ操作エージェント(CUA=Computer-Use Agent)とは、自然言語の指示と画面のスクリーンショットを入力に受け取り、クリック・文字入力・アプリケーションの切り替えといった操作を実際のデスクトップ上で実行するAIを指す。従来のRPA(Robotic Process Automation)が「座標と手順をあらかじめ固定する」自動化であるのに対し、CUAは指示の曖昧さや画面レイアウトの変化にその場で適応できる点が特徴である。 しかし実運用に持ち込むと、最初にぶつかる壁は「精度」ではない。コストと安定性のトレードオフである。1つの業務が数十〜数百ステップに及ぶ長距離タスク(long-horizon task)では、フロンティアモデルを毎ステップ呼び出すと費用が積み上がり、逆に小型のオープンウェイトモデルを単体で走らせると途中で手順を見失う。実PC操作のベンチマークであるOSWorld(Ubuntu環境・262タスク、観測はスクリーンショット、1タスクあたり50アクションの操作予算)で測ると、その
28 min read
AI・テクノロジー

CEATEC 2026開幕と「フィジカルAI元年」の衝撃:産業実装の最前線と実空間センシングが突きつけるプライバシー・セキュリティの深淵

2026年10月13日に開幕したCEATEC 2026。「フィジカルAI元年」が宣言され、三菱電機や日立が無人化工場や自律ロボットを競演する一方、実空間センシングによる情報漏洩やプライバシー侵害への強い懸念が浮上しています。現場実装のリアリズムとデータガバナンスの課題を徹底解説します。
15 min read
RISC-V

RISC-Vとは何か? オープンISAがx86/ARMの壁を壊す仕組みから、ベクトル拡張・開発ボードでの実践入門まで

はじめに——x86とARMの二択だった世界に、「3つ目の常識」が生まれた RISC-V(リスク・ファイブ)とは、CPUの動作を定める「命令セットアーキテクチャ(ISA)」の仕様を、誰でもロイヤリティフリーで利用できるオープン標準として公開した、x86・ARMに続く「第3のCPUアーキテクチャ」です。 「CPUといえば、PCはIntel/AMDのx86、スマホや組み込みはARM。でも最近、RISC-Vという言葉をよく見かける。いったい何が違って、何が変わるのか?」——そう感じたエンジニアは少なくないはずです。この問いへの答えは、すでに「いつか来る未来」ではなく「出荷数で測れる現実」になりつつあります。市場調査会社Omdiaの予測では、RISC-Vチップの市場は2030年までに920億ドル規模に達すると見込まれています(2025年2月・RISC-V International発表)。すでに2023年時点で累積コア出荷は100億個を超えたと公表されており(出典: RISC-V International: https://riscv.org/about/)、RISC-Vはウエスタンデジタ
33 min read
通信技術

MQTTとは何か——IoTとエッジAIをつなぐ軽量メッセージングプロトコルの仕組みから、QoS・トピック設計・セキュア運用まで徹底解説

はじめに——なぜIoTの「共通言語」がMQTTなのか 自宅の温度センサー、工場の設備、クラウド上のAIモデル——IoTの世界では、性格の異なる無数のデバイスが生み出すデータを、いかに低コストで確実に運ぶかが常に問われます。その答えとして、多くの現場で共通言語のように使われているのがMQTT(Message Queuing Telemetry Transport)です。 MQTTの歴史は、想像以上に過酷な環境から始まっています。1999年、MQTT公式FAQによれば、IBMのAndy Stanford-ClarkとArlen Nipperが、砂漠地帯を横断する石油パイプラインの遠隔監視システムのためにこのプロトコルを考案しました。現場と管制室を結ぶのは衛星回線。帯域は狭く、コストは高く、通信は不安定で、現場の機器は限られた電力で動かなければなりません。「乏しい帯域と電力でも確実に動く」——この厳しい制約の中で鍛えられた設計思想が、最小ヘッダわずか2バイトという徹底した軽量性として結晶しています。 その後、2014年にMQTT 3.1.1がOASIS標準となり(のちにISO/IEC
16 min read
AI・テクノロジー

500円マイコンでAIは動くのか?——ESP32×TinyML入門:キーワード認識から異常検知まで、電池で動くエッジAIの作り方

はじめに——500円のマイコンで「AIが動く」という選択肢 読者の痛みと本記事で得られるもの 自作ガジェットやIoTセンサーノードに「AIを載せたい」。そう考えたとき、立ちはだかるのが選択肢の少なさです。自宅サーバーやホームラボでAIを運用している方なら、なおさら「もっと下のレイヤー」に興味があるはずです。 定番のクラウドAIは強力ですが、生データを外部送信するためプライバシーが気になり、ネットワーク往復ぶんのレイテンシが乗り、従量課金は使う限り続き、通信費もかかります。常時稼働のセンサーノードには重い選択です。ではRaspberry PiのようなSBC(シングルボードコンピュータ)かというと、ボード1〜2万円程度(目安)で消費電力は数ワット級(目安)。コンセント前提のスペックでは、電池で動く小さなデバイスに載せられません。 「もっと小さく、安く、省電力にAIを置けないのか?」——本記事は、この問いへの答えです。 その答えが、マイコン上で機械学習モデルを直接実行するTinyMLです。TensorFlow Lite Micro(TFLM)公式は、これを「DSPやマイクロコント
18 min read
AI・テクノロジー

1.58ビットの壁を破る——三値LLM「BITCOS」が零点スパース性で変える推論の経済学

はじめに:1.58ビットという「当たり前」は本当に最適なのか 三値LLMとは、ニューラルネットワークの重みを −1・0・+1 の3つの値だけで表現するモデルです。−1と+1が正負の符号を、0が「その重みは寄与しない」ことを担います。3つの記号を区別するには理論上 log₂3 ≈ 1.585 ビットあれば足りるため、こうしたモデルは総称して「1.58ビットモデル」と呼ばれてきました。この呼称を広めたのが、三値重みでも大規模モデルがフル精度に匹敵する性能を保てることを示したBitNet b1.58です。以来1.585ビットという数字は、三値LLMの到達点として、ある種の「当たり前」になっています。 しかし、これは理論上の下限であって、実際に配備されている形式の効率ではありません。現在の標準的な保存方法は、5つの三値を1バイトに詰める方式です。3⁵ = 243 ≤ 256 ですから理屈の上では 8 ÷ 5 = 1.6 ビットで収まりますが、
23 min read
AI・テクノロジー

フィジカルAI(Physical AI)とは何か?生成AIとの違い・開発フレームワーク・主要な研究事例を徹底解説

フィジカルAI(Physical AI)とは、現実世界の物理法則を考慮し、センサ認識と物理的動作を自律遂行することを目指す知能システムの研究構想です。生成AIとの構造的相違、NVIDIAが提唱する「3台のコンピュータ」開発モデル、主要な研究実証事例、実用化の課題までを客観的に解説します。
16 min read
AI・テクノロジー

Armが描くエージェント型AI時代の全貌:モバイル・クラウド・ロボティクスを貫く3大新基盤と半導体エコシステムの地殻変動

Armが2026年9月8日に発表した「CSS for Mobile 2」「Neoverse CSS N4」「Total Design for Physical AI」の3大技術基盤を徹底解説。自律型エージェントAIが要求する過酷な推論負荷と物理世界のリアルタイム制御に、Armがどのように挑むのか。半導体産業の未来を解き明かします。
13 min read
IoT

なぜ「動いた画素だけ」処理するのか——イベントカメラとニューロモルフィックAIが拓くミリワット級エッジビジョン

はじめに——「カメラは映さなくていい」逆転の発想 工場の設備を24時間監視するAIカメラ、山林や農地を見守るソーラー駆動の監視ノード、ドローンに載せる衝突回避ビジョン。これらに共通する最大の敵は「電力」です。 従来のカメラは毎秒30〜60回、全画素のデータを生成し続けます。映っている風景がほとんど静止していても、です。GPUやNPUはその全フレームを処理するためにクロックを回し続け、電気を食い続けます。電池駆動のセンサーノードなら数日、ソーラーでも数週間で保守サイクルに追い込まれます。 ここで発想を逆転させてみましょう。監視や検知の多くの用途では、「動いたもの」だけが情報です。ならば、動いた画素だけを出力するセンサがあり、それを「入力が来た時だけ演算する」プロセッサで処理すれば、静かな時間の消費電力はほぼゼロにできます。 これがイベントカメラ(Dynamic Vision Sensor: DVS)とニューロモルフィックAIの組み合わせが切り開く世界で、実現される消費電力は、機種や動作条件によってはミリワット級に抑えられるとされています(センサ単体・推論チップ・通信を含むシステム
8 min read
AI・テクノロジー

KVキャッシュを再利用してLLM推論を4.49倍高速化——KVBoostが切り拓く自宅サーバーLLMの新境地

はじめに:自宅サーバーLLMが抱える「TTFTの壁」 大規模言語モデル(LLM)を自宅サーバーで運用するエンジニアが最初に直面する壁が、TTFT(Time-To-First-Token) の遅さです。TTFTとは、プロンプトを投げ込んでから最初のトークンが生成されるまでのレイテンシを指します。この時間が長いと、チャットの応答がもたついたり、RAG(検索拡張生成)パイプラインの体感速度が著しく低下したりします。 TTFTが遅くなる主な原因はプリフィル(prefill)処理にあります。プリフィルとは、モデルがプロンプト全体を一度に前方処理するフェーズのことです。Transformerの自己注意機構(Self-Attention)では、各トークンが他のすべてのトークンと注意計算を行うため、プロンプト長の2乗に比例する計算量が必要になります。数千トークンにおよぶシステムプロンプトや会話履歴を毎回ゼロから処理していては、応答までの時間が数秒から十数秒に達することも珍しくありません。 さらに深刻なのは、同じテキストが何度も再計算されるという無駄です。マルチターンチャットでは過去の会話履歴、R
18 min read
AI・テクノロジー

Daedalus-150M:アテンションの2/3を畳み込みに置き換えた、CPU推論専用設計の小型言語モデル

はじめに:なぜ「CPUで速く動くこと」が革新的なのか 大規模言語モデル(LLM)の推論環境といえば、まずGPUが思い浮かぶ。実際、データセンターでは何十台ものGPUを並べて高速な応答を実現している。しかし、個人のノートPC、スマートフォン、ラズベリーパイのようなエッジデバイス、あるいはGPUを調達できない予算制約のあるプロジェクトでは、CPUでLLMを動かさざるを得ない。この「CPU推論のシナリオ」は決してニッチではなく、むしろLLMの民主化にとって必須の要件である。 従来の小型言語モデル(SLM)は、大きなモデルを訓練してから後でCPUに押し込むという「後付け」のアプローチを取ってきた。しかし、CPUとGPUでは推論時の物理的制約が根本的に異なる。GPU推論は大きなバッチサイズで多数のリクエストを同時処理できるのに対し、CPU推論は1ユーザー・1トークンずつの逐次処理(バッチサイズ1)が基本となる。メモリ帯域幅もCPUはGPUの数分の一から数十分の一であり、演算性能よりもデータ転送速度が先にボトルネックになる。 Daedalus-150Mはこの認識を逆転させる。「デプロイ先から
18 min read
AI・テクノロジー

Intel AI PC群で大規模LLMを分散稼働——3つの技術が実現する、オフィスPC連携による推論基盤

はじめに:眠っているAI PCを活かす発想 Intel Lunar Lake世代以降のAI PCは、統合GPU(Intel Arcシリーズ)とNPU(ニューラルプロセッシングユニット)を搭載し、16GB以上のユニファイドメモリを備えている。しかし実際には、これらのハードウェアリソースは日常業務の大部分でアイドル状態にある。Webブラウジングやドキュメント作成、メール処理といった一般的なオフィスワークでは、統合GPUもNPUもほとんど活用されず、せっかくのAI処理能力が眠ったままになっているのが現状だ。 1台のAI PCで実行可能なLLM(大規模言語モデル)には明確な限界がある。16GBのユニファイドメモリでは、INT4量子化されたLlama 3.1 8B(80億パラメータ)程度が現実的な上限であり、Llama 3.1 70B(700億パラメータ)のような大規模モデルは単一マシンではメモリ不足で動作しない。しかし、複数台のAI PCをネットワークで協調させれば話は変わる。各マシンがモデルの一部を担当し、パイプライン状に処理を連携させることで、1台では絶対に動かない大規模モデルも扱える
21 min read
AI・テクノロジー

SQLiteだけでRAGは作れるか?——sqlite-vecとエッジデータベースが拓くローカルファーストAI検索の現在

はじめに:なぜSQLiteでRAGが再び注目されているのか RAG(Retrieval-Augmented Generation)を構築すると聞いて、多くの人がまず思い浮かべるのはベクトルデータベースの選定でしょう。Embeddingを保存し、近傍検索を走らせるために、QdrantやChromaといった専用DBを立てるか、Postgresにpgvectorを載せたサーバを別途用意する——ここ数年、それが標準構成とされてきました。しかし、この構成には避けられない運用コストがつきまといます。コンテナの起動、インデックスの管理、監視。そして何より「そもそも、その規模感でサーバを立てる必要があるのか?」という根本的な問いです。個人用のナレッジベース、エッジデバイス上の検索、オフラインで動かしたいAIエージェント——こうしたワークロードの多くは、実は「Postgres+pgvectorを立てるほどでもない」ケースに少なくなく相当すると考えられます。 この問いに答える形で、SQLiteをデータ基盤として再評価する潮流が続いています。背景にあるのは2つのマクロトレンドです。1つはエッジへのコンピ
17 min read
AI・テクノロジー

「画面を捨てる」ウェアラブルの逆襲——スクリーンレス健康トラッカーとスマートリングが拓く「アンビエント・ヘルスケア」の最前線

2026年Q2に前年比122%増の出荷を記録した「画面なし」健康トラッカー。Garmin CIRQAやRingConn Gen 3、汗から生化学データを採取するスマートリングCHARMなど、ディスプレイを廃したデバイスがなぜ今熱狂的な支持を集めるのか?通知疲れの解消からアンビエント・ヘルスケアの未来までを徹底解剖します。
10 min read
AI・テクノロジー

PLCとAIが融合する次世代ファクトリー——OPC UA over TSNとエッジ推論で変わる産業オートメーションの設計思想

はじめに — 工場の「脳」が進化する瞬間 あなたは製造現場のエンジニアだろうか。それとも、工場のデジタル変換を推進する意思決定者だろうか。 どちらであれ、こうした経験に心当たりはないだろうか。 「PLCのラダープログラムに不具合が出ているが、数百万行のコードから原因を探し出すのに丸3日かかった」 「AIで予知保全をやりたいと言われたが、いざ試すと制御ループと推論エンジンのタイミングが合わず、結局クラウドに丸投げした」 「異なるメーカーのPLCをつなぐために、ゲートウェイボックスを3段重ねにして、レイテンシが蓄積。結局どれが効いているのか分からない」 こうした「痛み」の根っこには、ひとつの根本的な対立がある。PLCという「確実だが頭が固い」制御装置と、AIという「柔軟だが不確実」な技術の間の、長年の断絶だ。 しかし2026年、この断絶がついに埋まりつつある。 PLCのバックプレーンに直接AIチップが搭載される。OPC UA over TSNという標準技術が、メーカーごとのプロプライエタリ通信の壁を壊し、マイクロ秒級のリアルタイム性を標準イーサネットで実現する。IEC 61
34 min read
AI・テクノロジー

ニューロモーフィックチップが変えるAI推論の未来——Intel Loihi 3・IBM NorthPole・メムリスタが開くミリワット級コンピューティング

はじめに:AIの電力危機という「痛み」 AI推論のコストが、あなたの事業のボトルネックになっていませんか? エッジAIデバイスの普及が進む中、この問いは多くのエンジニアとビジネスリーダーにとって現実の課題となっています。 2024年、世界のデータセンターが消費した電力は415 TWh——これは全世界の電力消費の約1.5%に相当します(出典:IEA推計)。そして、この数字は過去5年間で年率12%の成長を続けており、IEAは2030年までに945 TWhへと倍増する可能性を警告しています。米国に限っても、データセンターの電力消費が「現在から2030年までの電力需要増加のほぼ半分」を占めると予測されています(出典:IEA / Wikipedia "Data center")。 この電力爆発の最大の推進力が、AIです。GPUベースの推論コストの詳細については、GPU電力効率のトレンドと次世代アクセラレータの関連記事も参照してください。 AIブームにより、ハイパースケールデータセンターの建設はかつてないペースで進んでいます。2024年末時点で世界に1,136施設(5年で倍増)が存在し、A
43 min read
AI・テクノロジー

SpaceXとTeslaの168億ドル「Terafab」構想:自由電子レーザー(FEL)露光技術が拓く自律型半導体生産とAI・ロボティクスの未来

リード 2026年8月6日、テクノロジー業界および半導体産業に激震が走りました。イーロン・マスク氏率いるSpaceXとTeslaが、テキサス州グライムズ郡(Grimes County)において、第1フェーズの初期投資額だけで168億ドル(約2.7兆円)にのぼる超巨大垂直統合型半導体工場「Terafab(テラファブ)」の建設を正式発表したためです。 このTerafabは、単一の工場施設として世界最大級となる1億平方フィート(約929万平方メートル)という壮大なスケールを誇り、年間1テラワット(1,000,000,000,000 W)のAI演算能力を支えるチップの自律生産を目指しています。主な供給先は、Teslaの第2・第3世代人型ロボット「Optimus」、完全自動運転車両「Cybercab/Robotaxi」、そしてSpaceXが宇宙空間に展開する次世代Starlink宇宙データセンター用プロセッサです。 しかし、業界関係者が最も驚愕したのはその投資規模や工場サイズだけではありません。これまでオランダのASML社が100%市場を独占してきた極端紫外線(EUV)露光装置の光源技術「
9 min read
AI・テクノロジー

RISC-Vが切り拓くエッジAIの新世代:オープンシリコンがARM・x86に挑む2026年の現在地

RISC-V(リスクファイブ)とは、ライセンス料無料・カスタマイズ完全自由のオープンなプロセッサ命令セットアーキテクチャ(ISA)である。2010年にカリフォルニア大学バークリー校で開発され、現在はRISC-V Internationalが標準化を主管する。エッジAI領域では、V拡張(ベクトル命令)とカスタム命令拡張により、ARM固定ISAでは不可能なドメイン特化型の最適化が可能である。 はじめに — なぜ2026年にRISC-Vが注目されるのか 半導体業界の歴史的分岐点 2026年、半導体業界は40年ぶりの地殻変動の只中にある。これまでプロセッサの世界はx86(Intel/AMD)とARM(Arm Ltd.)の二強体制——デュオポールが支配してきた。PC・サーバーはx86、モバイル・組み込みはARM。この棲み分けは「不変の秩序」のように見えた。 しかし、3つの要因がこの構造を内側から崩し始めている。 ① AIチップ需要の爆発 — エッジデバイスでAI推論をこなす専用プロセッサの需要が急増している。汎用ISAでは最適化の限界に達しつつある。 ② IoTデバイスの指数関数
17 min read
AI・テクノロジー

Sample More, Reflect Less: Self-Refine and Reflexion Lose to Repeated Sampling at Equal Token Cost, from 1.5B to 7B

はじめに 自己改善手法とは、モデルが出力を一度で提出するのではなく、出力を批評・検討し、必要に応じて修正を加える一連の推論プロセスを指します。Self-Refine、Reflexion、Debate、Tree of Thoughts といったアプローチは、内部の推論経路を自己検証することで、最終回答の信頼性を高めようとします。推論の設計においては、どれくらいの計算資源を使うか、どの程度の回答の安定性を許容するかが重要な選択となります。 ローカル環境での推論では、推論資源と精度のトレードオフが特に重要です。トークンコストと実行時間が制約条件となる中、同じトークン予算で繰り返しサンプリングを行い、複数の見解を統合する方法は、しばしば単発の推論よりも正確性と再現性を高める効果を持ちます。とはいえ、自己改善の効果はモデルサイズに依存します。小型モデルでは反復による情報追加が有効に働くことが多い一方、サイズが大きくなると追加の反省から得られる価値が相対的に低下する傾向があります。 本論文の実証では、1.5B・3B・7Bのモデルサイズと150問×2のベンチマーク、ブートストラップ信頼区間・多
7 min read
AI・テクノロジー

SQLite-Vectorが切り拓くエッジAIのベクターサーチ:組み込みデータベースで実現するプライバシーファーストなセマンティック検索

はじめに — エッジAI時代のベクトル検索の課題 ChatGPTの登場以降、AIアプリケーションの風景は劇的に変化しました。中でもRAG(Retrieval-Augmented Generation)は、LLMのハルシネーションを抑制し、最新情報を反映するための事実上の標準アーキテクチャとなっています。そしてRAGの心臓部を担うのが、テキストの意味的近さを高速に計算するベクトル検索です。 クラウド型ベクターデータベースの成功と限界 Pinecone、Weaviate、Qdrant——これらのマネージドベクターデータベースは、百万規模のベクトルをクラウド上で管理し、ミリ秒レベルの類似性検索を実現してきました。しかし、すべてのユースケースがクラウドに適しているわけではありません。 遅延とコストが最初の壁です。モバイルアプリやIoTデバイスからクラウドへクエリを投げる場合、ネットワークラウンドトリップが致命的な遅延を生みます。より深刻なのはプライバシーの問題です。医療、法務、金融の領域では、ユーザーの機密データを外部サーバーに送信すること自体が法律で禁止されています。GDPRやCC
15 min read
AI・テクノロジー

Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems

はじめに AIエージェントは近年、推論能力だけでなく、思考の文脈をどう保持し活用するかという問題に直面しています。会話履歴やツール定義、ツールの出力といった文脈が増えると、メモリの消費が膨れ上がり、トークンコストの二次関数的な上昇を招きます。結果として、長い対話の中で必要な情報を正しく思い出すリコール精度が低下することがあります。 この課題を単なる保存・検索の問題として捉えるのではなく、ライフサイクルとアーキテクチャの問題として捉え直す新しい設計思想が求められています。Agentic Context Management、略して ACM はこの領域を整理する枠組みで、思考の文脈をどう覚え、どう忘れ、どう取り出すかを体系化します。5つのプリミティブ(設計・取り込み・スコープ・予測・圧縮統合)を軸に、コストと忠実度のトレードオフを実践的に解決する道を提案します。家庭用サーバー等の限られた環境でも効果が見込める設計であり、本記事ではその全体像と実践的な適用方法を解説します。 ACMの5つのプリミティブ AIエージェントの思考履歴をどう選別・格納するかは設計の核心です。ACMはメモリ
5 min read
AI・テクノロジー

「端側具身AI」に賭ける中国スタートアップ——眸深智能の追加調達と国産チップ戦略

2026年7月26日、中国の具身智能スタートアップ「眸深智能(Motion Brain)」がPre-A輪の追加調達で約1億元を確保した。復旦大学教授と元インテル中国首席科学者が率いる同社は、ロボットの頭脳をクラウドから端末側へ降ろす「端側具身AI」に賭ける。推論遅延10ms、端側推論コスト95%減という主張と、国産チップへの全面対応が意味するものを読み解く。
10 min read