pixel AIChat 3 — 超軽量・自作自然言語処理エンジン ターボモードでないと生成できません English ↓ Pixel AI Chatは、リンゴ&バナナのデータだけ学習しています。(色や形、値段、科、栄養......などに対応しています) 「意味を理解して回答する」 外部のAPIやサーバーを一切使わず、Scratchのリスト機能だけで構築された、完全独自の「超軽量・疑似LLM」です。 従来のマルコフ連鎖のように「文法的に繋がる言葉をランダムに並べる」だけではなく、言葉の背後にある「意味空間」を捉えることで、対話の文脈を維持した自然な会話を実現しました。 ディープラーニング学習を使い、回答文を40こ作成し この中から一番質問に正しい回答文を選び回答します コア・テクノロジー(仕組みの解説) 本物の大型言語模型(LLM)が使用している「Transformer」や「Embedding(埋め込みベクトル)」、「deep learning(ディープラーニング)」の概念を極限まで抽象化し、Scratch上で高速動作する仕組みに落とし込んでいます。 1. 2次マルコフ連鎖による文脈生成 直前の「1語」だけでなく、「直前2語のペア」をキーにして次に続く言葉を予測します。これにより、日本語として破綻のない、スムーズな文章の骨組みをリアルタイムに紡ぎ出します。 2. 独自アルゴリズム「疑似Embedding(ベクトル分析)」 単語ごとに「ジャンル」や「属性」のタグ(ビットフラグ)を持たせ、単語同士の意味的な距離(類似度)を瞬時に計算します。 例:「リンゴ」という言葉から、関連性の高い「色(赤)」や「食べ物(美味しい)」といった意味空間にある言葉を自ら手繰り寄せます。 3. 短期記憶システム(簡易Attention機構) ユーザーが入力したプロンプトから重要語(キーワード)を抽出し、AIの「短期記憶」にストック。文章を生成する際、その記憶ベクトルに近い単語の選択確率を動的にブースト(重み付け)します。これにより、話が脱線せず、こちらの意図を「覚えて会話を続ける」ことが可能になりました。 Pixel AIChat 3 — Ultra-Lightweight, Custom Natural Language Processing Engine Pixel AI Chat is trained exclusively on data related to apples and bananas (covering their colors, shapes, prices, families, nutritional value, and more). "It understands the meaning behind the words to respond." This is a completely proprietary, "ultra-lightweight pseudo-LLM" built entirely within Scratch's native list features, without relying on any external APIs or servers. Unlike traditional Markov chains that simply chain grammatically compatible words together at random, Pixel AI Chat captures the semantic space behind the words. This allows it to maintain context and deliver highly natural conversations. Using a deep learning-inspired process, it generates 40 candidate responses for every prompt and meticulously selects the most accurate one to output. Core Technology (How It Works) We took the high-level concepts used by genuine Large Language Models (LLMs)—such as Transformers, Embeddings (vector representations), and Deep Learning—and abstracted them down to their absolute limits, optimizing them to run at high speeds directly within Scratch. 1. Context Generation via 2nd-Order Markov Chains Instead of predicting the next word based on just the single preceding word, the engine uses the pair of the last two words as a key. This allows it to weave together a structurally sound, smooth natural language backbone in real time. 2. Proprietary "Pseudo-Embedding" Algorithm (Vector Analysis) Every single word is assigned genre and attribute tags (bit flags). The engine uses these to instantly calculate the semantic distance (similarity) between words. Example: When it processes the word "Apple," it automatically pulls in words from the same semantic neighborhood, such as "Color (Red)" or "Food (Delicious)." 3. Short-Term Memory System (Simplified Attention Mechanism) The engine extracts keywords from the user's prompt and stores them in the AI's short-term memory. While generating a response, it dynamically boosts (weights) the selection probability of words that align with that memory vector. This prevents the conversation from derailing, ensuring the AI "remembers" your intent and stays on track.
作者 agu2511agu 学習して欲しい単語や言葉があったらコメントしてね! 学習した単語は、6388単語です。(まあまあ賢いAI) 短い文章しか生成できません(学習データが足りないためです。)