15年ぐらいのパソコンで生成AIは果たして動くのか?

2025.10.06

Logging

おはようございます.15年ぐらいのパソコンで生成AIは果たして動くのか?試してみた結果、ギリ動くという事が分かったのだけど、全く持って使えないという事も判明しました.プロンプトを投げて、最初の一文字が返ってくるのに3分かかりその後1文字ずつ30秒毎に表示されていくのでレスポンスが全て完了するのに10分ぐらいは軽くかかります.

これでは使えないので現行のパソコン環境にモデルを落としてきて、プロンプトを投げた結果.1分ほどで全文のレスポンスが返ってきました、これなら使い物になるなと思う反面、仕事中に裏で動かすのは負荷的に如何なものかと思ったり…

生成AIモデルを使って何をしようとしているかと言えば前回記載した通り、自分が之まで書いてきた記事を要約して紹介文としてレスポンスで返してもらう、その紹介文を使用してXやその他のSNSにポストするような仕組みを作ろうとしています.

その前段階としてローカルパソコンで動作可能かどうかを先日の休みに試していました.因みに試したソースコードを貼っときますね.動かすには事前にCUDAを入っている事とモデルを落としてきている事などが必要です(Windowsの場合).

import sys
from llama_cpp import Llama
from jinja2 import Template

# Windowsターミナルで文字化け対策
sys.stdout.reconfigure(encoding="utf-8")

# モデルロード
model_path = "models/Meta-Llama-3-8B-Instruct.Q5_0.gguf"
llm = Llama(model_path=model_path, n_gpu_layers=-1, n_ctx=600)

# 対話ログ保存ファイル
log_file = "chat_history.txt"

# jinja2テンプレート
chat_template = """{% set rule = "ルール: 以下の会話では必ず日本語で回答してください。" %}
{{ bos_token + '<|start_header_id|>system<|end_header_id|> ' + rule + '<|eot_id|>' }}
{% for message in messages %}
    {% set content = '<|start_header_id|>' + message['role'] + '<|end_header_id|> ' + message['content'] | trim + '<|eot_id|>' %}
    {{ content }}
{% endfor %}
{% if add_generation_prompt %}
    {{ '<|start_header_id|>assistant<|end_header_id|> ' }}
{% endif %}"""

print("=== 日本語対話モード ===")
print("終了するには exit と入力してください。\n")

messages = []

while True:
    user_input = input("あなた: ")
    if user_input.lower() == "exit":
        print("対話終了")
        break

    # ユーザーの発言を messages に追加
    messages.append({"role": "user", "content": user_input})

    # プロンプト生成
    template = Template(chat_template)
    prompt = template.render(messages=messages, bos_token="<s>", add_generation_prompt=True)

    # モデル呼び出し
    output = llm(prompt, max_tokens=200)
    text = output["choices"][0]["text"]

    # バイト列ならUTF-8変換
    if isinstance(text, bytes):
        text = text.decode("utf-8", errors="replace")

    print("アシスタント:", text)

    # メッセージとして追加(次のやり取りでコンテキスト維持)
    messages.append({"role": "assistant", "content": text})

    # ログに保存
    with open(log_file, "a", encoding="utf-8") as f:
        f.write(f"ユーザー: {user_input}\n")
        f.write(f"アシスタント: {text}\n\n")

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

AI, CUDA, SNS, Windows, キリ, コード, これ, ソース, その他, その後, パソコン, プロンプト, ポスト, モデル, もの, よう, レスポンス, ローカル, 一文字, 事前, 仕事, 仕組み, 休み, 使い物, 使用, 先日, 全て, 全文, 判明, 前回, 動作, 反面, 可能, 場合, 如何, 完了, 必要, 文字, 明日, 最初, 段階, 現行, 環境, 生成, 紹介, 結果, 自分, 表示, 要約, 記事, 記載, 負荷, 通り,

サイトの画像有無を確認するNodeJSコード

2025.09.21

Logging

おはようございます.サイトの画像有無を確認するNodeJSコードを共有します、このコードを作った経緯は画像の有無を目視でチェックするのは結構大変でかつ、膨大にページがある場合は人の確認だとどうしても抜かりが出てくる場合があります.

そういう時にこのツールを使うとカバー出来ると思います、使用するにはまず前提条件としてご自身のOS(オペレーションシステム)にNodeJSバージョン22が入っていること、それ以降でも動くとは思いますが自分が動作確認を行ったのはバージョン22だったので動作保証するのは22になります.

環境を整えたらギットハブ(GitHub)の下記のリンクより、ダウンロードするかクローンしてご自身の任意のディレクトリにファイルを展開しその後、READMEを参照して手順を踏んで頂けたら確認が出来ます.

https://github.com/taoka3/checkImage

※同階層にライブラリのインストールすることをお忘れなく

トイウコトでサイトの画像有無を確認するNodeJSコードの話でした、尚、このコードは生成AIが殆どコードを書いています.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

インストール, オペレーション, カバー, ギットハブ, クローン, コード, こと, サイト, システム, その後, それ, ダウンロード, チェック, ツール, ディレクトリ, トイウコト, バージョン, ファイル, ページ, ライブラリ, リンク, 下記, 以降, 任意, 使用, 保証, 共有, 前提, 動作, 参照, 場合, 大変, 展開, 手順, 明日, 有無, 条件, 殆ど, 環境, 生成, 画像, 目視, 確認, 経緯, 膨大, 自分, 自身, 階層,

さくらインターネット株を700円台の時に友人Aに紹介しておいて

2025.07.30

Logging

おはようございます.さくらインターネット株を700円台の時に友人Aに紹介しておいて自分はお金に余裕がないので買っていないという始末.

そのさくらインターネットの株はいま3000円台になっていて、自分は結構こういうの当たるなという思いがあります(現在暴落中ですが).その友人Aがその後その株を購入したかどうかは知らないのだけども.

尚、株で儲けたいのなら大企業の経営がちゃんとしている会社か、ボロ株を買うかどちらかになると思っていますとは言ってもこれはショート買いではなくロングで株を保有する事を考えて記載しています.

いま余裕資金があるのなら自分はせっせと大震災に強い株を買いますね.これは日本で近い将来起こり得ることなので震災が起きると絶対に上がると思います.逆に言えば大震災が起きると殆どの株は下がると思います.

国難級の大震災が起きると防衛関連の株や建設業の株、あと医療関係の株以外は急落するのではないかと.

この自分の考えはゴールドラッシュで儲かったのは金脈を一攫千金で当てようとした人ではなく、スコップや宿を提供した人という所から来ています、また本屋さんで儲かるよと書いて置いている本にはもう儲からない手法が書いているのと同じです.大体、人が読まない分厚い本の方がお得な情報が載っています.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

あと, いま, インターネット, お金, コールド, こと, これ, さくら, サン, ショート, スコップ, その後, どちら, ラッシュ, ロング, 一攫千金, 以外, 企業, 会社, 余裕, 保有, 医療, 友人, 国難, 大体, 大震災, 始末, 将来, 建設, 思い, 急落, 情報, 手法, 提供, 日本, 明日, 暴落, 本屋, 殆ど, 現在, 紹介, 経営, 絶対, 考え, 自分, 記載, 買い, 資金, 購入, 金脈, 関係, 関連, 防衛, 震災,

今日から3ヶ月間、ダイエット食事を行うことに.

2025.07.28

Logging

おはようございます.自分の身体にテコ入れを行います.今日から3ヶ月間、ダイエット食事を行うことにしました.3ヶ月後にどれぐらい痩せれているかは分からないけど、このままのままではヤバいという事でかなり頑張ります.

これから3ヶ月間は蒸し野菜と蒸し鶏肉などを夜と昼食べることにします.これで効果があれば良いなと思っています.体重減少してきたら運動も再開したいなと思っています.
マイナス15kg痩せれればまぁぎり標準になると思うのでそこまでは落としたい.

昔、痛風の疑いがあるということで、蒸し野菜生活をしたことがあり、体重減少出来たのですがその後のリバウンド的になったのが良くなかった.今度はリバウンド的にならないように徐々に食生活を変えていきたいと思います.

因みに急激に痩せると太りやすい物質が生まれるらしいのだけども、そこは筋肉でカバー出来そうなので頑張ってみたいと思います.

尚、3ヶ月間後には体重の推移をブログに記載したいと思っています.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

ぁぎり, カバー, ヶ月, こと, これ, そう, そこ, その後, ダイエット, テコ入れ, どれ, ブログ, マイナス, まま, ヤバ, よう, リバウンド, 今度, 今日, 体重, 再開, 効果, 急激, 推移, 明日, 月間, 標準, 減少, 物質, 生活, 疑い, 痛風, 筋肉, 自分, 記載, 身体, 運動, 野菜, 食事, 食生活, 鶏肉,