INTEGRATED DATA HUB

データ連携の壁をゼロに、
変化を先読む経営へ進化。

DB・CSV・Excel・スプレッドシートを横断JOINし、AIの自律分析により結果をAPIとして即公開。データサイロ解消からインサイト獲得まで、Avatar Data Hub が一気通貫で実現します。

101,521,668検証データ行数
0.314s全件カウント
1.117s年月別 集計
90.56%ディスク削減

※ メモリ上限 6GB の Ubuntu 環境での実測値。

システムがもたらすビジネス価値

意思決定の圧倒的高速化

データ集計・分析レポート作成を、AIが数分に短縮。ビジネスの意思決定スピードを最大化します。

データ民主化とコスト削減

高額なデータ分析基盤は不要。誰でも社内システムと手元のデータを掛け合わせ、直感的に分析可能です。

システム運用効率化と安全確保

クエリを即座にAPI化し、外部連携を自動化。AIによる脆弱性診断で、データ漏洩リスクも防ぎます。

アーキテクチャ — データを保持しない設計

Avatar Data Hub はデータを複製・保存しません。お客様のデータソースへ直接アクセスし、その場でクエリを実行します。

データを保持しない

お客様のDBへ直接アクセス。複製・保存を行わないため、二重管理と情報漏洩リスクを抑制します。

ファイルへ直接クエリ

CSV・Excelはアプリ内DBへ取り込まず、ファイルのまま直接クエリ。ETL・データ移行は不要です。

ローカル版 & Web版

ローカル版はPC上のCSVを直接選択、Web版はサーバーへアップロード。どちらもファイルへ直接クエリします。

コア機能

フェデレーテッドクエリエンジン

PostgreSQL、MySQL、SQLite、Microsoft SQL Server、CSV、TSV、Excel、Google スプレッドシート等の多様なソースへ直接「Attach」して接続。データ移行(ETL)不要で、単一のSQL上で異なるデータソース同士を即座に結合・クロス分析できます。

自律型AIエージェント & AI SQL Reviewer

自然言語の指示からSQLを自動生成。実行・検証ループで自己修復しながら最適な回答を出力します。セキュリティや性能など5軸でクエリを自動評価し、サーバー負荷や危険な実行を未然に防ぎます。

SQLエディタ & API自動公開

自動補完やグラフ出力を備えたエディタで開発を支援。作成したクエリは即座にREST API化可能です。非同期ストリーミングで高速出力し、外部連携やダッシュボード表示の遅延をゼロにします。

実測パフォーマンス

1億150万行超(101,521,668 行)の大規模データに対する検証結果です。メモリ使用量を 6 GB に制限した環境下でも、OOM を起こさず安定して全件スキャン・集計を完了しました。

実行環境および制限構成

サーバーOSUbuntu Linux
物理RAM構成16 GB RAM
使用メモリ制限6 GB
総レコード数101,521,668

ストレージ指標およびデータ圧縮

項目 元データ (CSV) Avatar Data Hub (CSV 圧縮) 最適化率
データ形式 Raw CSV CSV 圧縮 (Columnar Compressed) 列指向圧縮フォーマット
ディスク使用量 9,949,563,711 bytes
≈ 9.95 GB
939,455,578 bytes
≈ 939.46 MB
90.56% の容量削減(約 10.6 倍)
総レコード数 101,521,668 101,521,668 100% 整合性を保持

SQL実行の詳細結果

SQL 1 — 総行数のカウント (COUNT Query)

SELECT count(*) FROM solar;

実行結果 101,521,668 · 返却行数 1 · 実行時間 0.314s

SQL 2 — 年・月別の集計 (GROUP BY & Aggregation)

SELECT EXTRACT(YEAR FROM rt) AS year,
       EXTRACT(MONTH FROM rt) AS month,
       COUNT(*) AS total_count,
       ROUND(SUM(LCDC_0), 2) AS sum_lcdc
FROM main.solar
GROUP BY 1, 2 ORDER BY year, month;

返却行数 36 · 実行時間 1.117s

技術的強みと評価

優れたメモリ管理能力

6 GB RAM という厳格な制限下でも、1億150万行のスキャン・集計を OOM エラーなく安定実行。

ストレージ・転送コスト削減

9.95 GB から 939 MB へ圧縮。ストレージ費用、帯域幅、ディスク I/O ネックを大幅に抑制。

高速なクエリレスポンス

1億行超に対する複雑な集計処理を 1.117 秒で完了。BI・ダッシュボード用途で実用的な速度。

Hub 運用ワークフロー

ファイルをアップロードするだけで自動的に列指向圧縮形式へ変換・保管。組織全体から高速SQLが可能に。

従来のデータベースとの比較

同一データ(101,521,668 行)を従来のリレーショナルDBで扱う場合との、プロセスおよびパフォーマンスの比較です。

比較項目 従来のDB (MySQL / PostgreSQL / SQLite) Avatar Data Hub 強み・評価
データ準備・Import プロセス 複雑で時間を要する。スキーマ設計、LOAD DATA / COPY によるロード(1億行で 30分〜数時間)、インデックス作成が必要。 ファイルをアップロードするのみ。自動的に最適化された CSV 圧縮 (939 MB) で管理。 データ管理を簡素化し、全社的な分析クエリ環境を迅速に構築可能。
OLAPクエリ速度 (Full Scan & 集計) 15秒 〜 90秒以上(インデックス無しではタイムアウトの可能性大) 0.314s 〜 1.117s 列指向実行エンジンにより 15倍〜50倍以上 高速。
ディスク使用量 15 GB 〜 30 GB(テーブル + インデックス容量) 939 MB 圧縮技術により 約 90.5%〜95% のディスク容量を削減。
メモリ要求量 (RAM) 16 GB 〜 32 GB RAM(大規模 Buffer Pool が必要) 6 GB RAM 制限で安定動作 非常に高いリソース効率。OOM エラーの懸念を払拭。
インデックス管理コスト 手動でのインデックス設計・メンテナンスが必要 手動インデックス作成 不要 インデックス構築・管理の手間をゼロに軽減。

主要機能

APIの即時自動生成

自然言語で指示するだけで、AIがDB構造を解析し、入力チェックとセキュリティ設定を備えた RESTful API を即座に生成します。

  • 専用APIキー発行・レート制限・キャッシュ・有効期限設定
  • 監査ログ:いつ・誰が・どのAPIを・何ミリ秒で呼んだかを完全可視化

AI (MCP) 連携と権限制御

生成AI・AIエージェントがDBと直接連携するための標準プロトコル MCP に対応しています。

  • 「特定データのみ参照許可」「閲覧専用」等のきめ細かな権限管理
  • AIの誤操作や重要データへの不要アクセスを確実に防止

多彩なデータソース統合

主要なDBエンジンとファイル形式を、同じSQLで横断的に扱えます。

  • PostgreSQL / MySQL / SQLite / Microsoft SQL Server
  • CSV (.csv) / TSV (.tsv) / Excel (.xlsx, .xls) / Google スプレッドシート

データ連携の壁を、今日からゼロに。

既存のデータベースに手を入れず、そのまま接続して検証できます。導入のご相談・デモのご依頼はお気軽にどうぞ。

お問い合わせ