15年ぐらいのパソコンで生成AIは果たして動くのか?

20251006

Logging

おはようございます.15年ぐらいのパソコンで生成AIは果たして動くのか?試してみた結果、ギリ動くという事が分かったのだけど、全く持って使えないという事も判明しました.プロンプトを投げて、最初の一文字が返ってくるのに3分かかりその後1文字ずつ30秒毎に表示されていくのでレスポンスが全て完了するのに10分ぐらいは軽くかかります.

これでは使えないので現行のパソコン環境にモデルを落としてきて、プロンプトを投げた結果.1分ほどで全文のレスポンスが返ってきました、これなら使い物になるなと思う反面、仕事中に裏で動かすのは負荷的に如何なものかと思ったり…

生成AIモデルを使って何をしようとしているかと言えば前回記載した通り、自分が之まで書いてきた記事を要約して紹介文としてレスポンスで返してもらう、その紹介文を使用してXやその他のSNSにポストするような仕組みを作ろうとしています.

その前段階としてローカルパソコンで動作可能かどうかを先日の休みに試していました.因みに試したソースコードを貼っときますね.動かすには事前にCUDAを入っている事とモデルを落としてきている事などが必要です(Windowsの場合).

import sys
from llama_cpp import Llama
from jinja2 import Template

# Windowsターミナルで文字化け対策
sys.stdout.reconfigure(encoding="utf-8")

# モデルロード
model_path = "models/Meta-Llama-3-8B-Instruct.Q5_0.gguf"
llm = Llama(model_path=model_path, n_gpu_layers=-1, n_ctx=600)

# 対話ログ保存ファイル
log_file = "chat_history.txt"

# jinja2テンプレート
chat_template = """{% set rule = "ルール: 以下の会話では必ず日本語で回答してください。" %}
{{ bos_token + '<|start_header_id|>system<|end_header_id|> ' + rule + '<|eot_id|>' }}
{% for message in messages %}
    {% set content = '<|start_header_id|>' + message['role'] + '<|end_header_id|> ' + message['content'] | trim + '<|eot_id|>' %}
    {{ content }}
{% endfor %}
{% if add_generation_prompt %}
    {{ '<|start_header_id|>assistant<|end_header_id|> ' }}
{% endif %}"""

print("=== 日本語対話モード ===")
print("終了するには exit と入力してください。\n")

messages = []

while True:
    user_input = input("あなた: ")
    if user_input.lower() == "exit":
        print("対話終了")
        break

    # ユーザーの発言を messages に追加
    messages.append({"role": "user", "content": user_input})

    # プロンプト生成
    template = Template(chat_template)
    prompt = template.render(messages=messages, bos_token="<s>", add_generation_prompt=True)

    # モデル呼び出し
    output = llm(prompt, max_tokens=200)
    text = output["choices"][0]["text"]

    # バイト列ならUTF-8変換
    if isinstance(text, bytes):
        text = text.decode("utf-8", errors="replace")

    print("アシスタント:", text)

    # メッセージとして追加(次のやり取りでコンテキスト維持)
    messages.append({"role": "assistant", "content": text})

    # ログに保存
    with open(log_file, "a", encoding="utf-8") as f:
        f.write(f"ユーザー: {user_input}\n")
        f.write(f"アシスタント: {text}\n\n")

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

AI, CUDA, SNS, Windows, キリ, コード, これ, ソース, その他, その後, パソコン, プロンプト, ポスト, モデル, もの, よう, レスポンス, ローカル, 一文字, 事前, 仕事, 仕組み, 休み, 使い物, 使用, 先日, 全て, 全文, 判明, 前回, 動作, 反面, 可能, 場合, 如何, 完了, 必要, 文字, 明日, 最初, 段階, 現行, 環境, 生成, 紹介, 結果, 自分, 表示, 要約, 記事, 記載, 負荷, 通り,


悲報、PCがガタガタになっている感がある、新しい

20251005

Logging

おはようございます.久しぶりの悲報です、PCがガタガタになっている感がある、新しいパソコンを来年は買わないといけない気がしています.

買い替えるのにMac Miniでも買おうかなと思ったりしていますが、どのみち買うならMacBookにするべきか、前と同じようにWindowの自作PCにするべきか悩んでいます…

投資信託の金額は崩したくないので現金で何とかしないといけないなって思っていますが悩ましい.まだ動くので固まる原因が分かればその部分だけを代替えすれば良い話なのでそれで来年もいまの自作PCで頑張るという選択肢もあると思います.

恐らくいまの収入の事を考えると、代替えして使い続けるというのが懸命でギリギリまで選択し続けると思ったりしていますが、こればかりは自分の気分にもよるので分からないです.

ともあれ、PCの電源スイッチ部分が壊れたのは見た目ダサいなって.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

Mac, MacBook, mini, PC, window, いま, ガタガタ, ギリギリ, これ, スイッチ, パソコン, よう, 久しぶり, 代替え, 信託, 原因, 収入, 悲報, 懸命, 投資, 明日, 来年, 気分, 現金, 自作, 自分, 見た目, 選択, 選択肢, 部分, 金額, 電源,


新着記事紹介を電光掲示板2CSSに切り替えました.

20251004

Logging

おはようございます.気温って徐々に寒くなるのではなくていきなり変わっていくものなのかも知れません、これも温暖化の性なのかも.

さて、「新着記事紹介を電光掲示板2CSSに切り替えました.」の話をしていきます.お気づきかも知れませんがトップページの新着記事紹介を変えました.これにより何得かは分かりませんが以前よりシンプルなトップページになった事は確かかも.

因みに自分はCSSがあまり好きではないのですが、CSSオンリーで電光掲示板を作れたのもChatGPTのおかげです.でも、彼の作った電光掲示板が良いなと思っています.ググっても上位表示しないけど一番、電光掲示板に近いCSSコードだと思います.

そのうち彼の作った電光掲示板CSSに変える可能性はあります.彼のコードを参照して作ってとChatGPTにお願いしても出てくるコードは全く別物ばかりで…呆れ顔.

トイウコトで今回作ったコードはそのうち変えますのでお裾分けです.

<div class="slide">
    <ul>
        <li>ABC TEST</li>
    </ul>
</div>
        @import url('https://fonts.googleapis.com/css2?family=DotGothic16&display=swap');

        .slide {
            margin: 20px auto;
            width: 90%;
            /* スマホでも見切れないように */
            max-width: 600px;
            overflow: hidden;
            background: #000;
            border: 3px solid #111;
            border-radius: 8px;
            box-shadow: 0 0 20px #000 inset;
            position: relative;
        }

        /* LED風ドット背景 */
        .slide::before {
            content: "";
            position: absolute;
            inset: 0;
            background-image: radial-gradient(rgba(255, 255, 255, 0.08) 1px, transparent 1px);
            background-size: 4px 4px;
            background-color: #302f2f;
            pointer-events: none;
            z-index: 0;
        }

        /* スクロールテキスト */
        .slide ul {
            display: inline-block;
            margin: 0;
            padding-left: 100%;
            white-space: nowrap;
            animation: SlideAni 15s linear infinite;
            position: relative;
            z-index: 1;
        }

        /* テキストスタイル */
        .slide ul li {
            display: inline;
            margin: 0 80px 0 0;
            font-size: clamp(10px, 2vw, 16px);
            letter-spacing: 0.1em;
            font-family: "DotGothic16", "Noto Sans JP", "MS Gothic", monospace;
            color: #0f0;
            text-shadow:
                0 0 2px #0f0,
                0 0 5px #0f0,
                0 0 10px #0f0,
                0 0 20px #0f0;
            animation: Flicker 0.2s infinite alternate;
            image-rendering: pixelated;
            /* ピクセル感強調 */
            filter: contrast(180%) brightness(1.3);
            /* LEDっぽく */
        }

        /* 横スクロールアニメーション */
        @keyframes SlideAni {
            0% {
                transform: translateX(0);
            }

            100% {
                transform: translateX(-100%);
            }
        }

        /* チラつきアニメーション */
        @keyframes Flicker {

            0%,
            18%,
            22%,
            25%,
            53%,
            57%,
            100% {
                opacity: 1;
            }

            20%,
            24%,
            55% {
                opacity: 0.7;
            }
        }

        /* --- レスポンシブ対応 --- */

        /* タブレットサイズ */
        @media (max-width: 768px) {
            .slide {
                max-width: 90%;
            }

            .slide ul li {
                margin: 0 40px 0 0;
            }

            .slide ul {
                animation: SlideAni 18s linear infinite;
                /* ややゆっくり */
            }
        }

        /* スマートフォンサイズ */
        @media (max-width: 480px) {
            .slide ul li {
                margin: 0 24px 0 0;
            }

            .slide ul {
                animation: SlideAni 22s linear infinite;
                /* スマホではさらにゆっくり */
            }
        }

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

ChatGPT, css, おかげ, オンリー, お気づき, お裾分け, お願い, ググ, コード, これ, シンプル, トイウコト, トップページ, もの, 一番, 上位, 今回, 以前, 別物, 参照, 可能, 好き, 掲示板, 新着, 明日, 気温, 温暖, 確か, 紹介, 自分, 表示, 記事, 電光,


泣かず飛ばずでも続けていきますのでご心配なく.

20251003

Logging

おはようございます.泣かず飛ばずでも続けていきますのでご心配なくというタイトル通りYOUTUBEチャンネルは泣かず飛ばずでも続けていきます.第一目標人数まで451人ですが年内までに目標達成出来るかは分からないけど、なんか路線を変えたら伸びていきそうな気もします.

最近アップした動画は3回か4回ぐらいの再生回数ですが、それでも続けていくのは続けていけばなんか掠るかもとか思っているです、何が掠るのかと言えば収益が発生すると思っているからです.

そうそう、この頃NHKの72時間を観ていたらアスペルガー(自閉症)と発達障害を持った人達が出ていてその人達が障がい者手帳を持っていたのを観て、昭和だったら何も困ることなく生きていただろうに.今は障がい者手帳がないと生きにくいのだろうかと思うと何だかモヤッとした気分になりました.

日本って国は全然障がい者に寛容な社会ではないのです.障害になっただけで偏見などもある、そして障害を持っているだけで収入が激減したりして本当に見た目(お喋り上手)重視の社会になってきたなと思うとナカナカ社会の大きな成長はないじゃないかなと思っています.

イノベーションを起こす人は大体社会からはみ出した人なんじゃないかなって思っています、なのでそういう人達の居場所が社会から取り上げると恐らく社会は徐々に沈んでいくと思います.

本当、この頃モヤってしています.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

NHK, youtube, アスペルガー, アップ, イノベーション, お喋り, こと, そう, タイトル, チャンネル, なか, モヤ, モヤッ, 上手, 人数, 人達, 偏見, 再生, 動画, 収入, 収益, 回数, 大体, 寛容, 居場所, 年内, 心配, 成長, 手帳, 日本, 明日, 昭和, 時間, 最近, 本当, 気分, 激減, 発生, 発達, 目標, 社会, 自閉症, 見た目, 路線, 通り, 達成, 重視, 障害,


ラズパイで温度と湿度をリアルタイムで抽出.

20251002

Logging

おはようございます.先日の休みに友からお土産を頂き、そして去っていきました.いつも高知へ帰ってきたときはもらってばかりで申し訳ないです.いつ帰るか一言有れば用意出来るのになって思います.

さて、思い立ったが吉日な自分、ラズベリーパイ3B+を持っていて一度温度と湿度の抽出もDHT11で行ったことがあるのですが、その時、原因不明の熱をセンサーが持ちこのまま置いておくのは危ない感じがしたので、以前は辞めた工作です.

それを先日の朝、目が覚めて「なんかもう一度試してみたいな」って事になりDHT22をアマゾンで購入.配線等はこちらのリンクを参照し、プログラムコードはチャッピーに聞いてみてリアルタイムで抽出がものの数分で完成.

Qiitaなどで記述しているコードで上手く行かなかった人向けにこちらにコードとインストール方法を記載しときます.

python3 -m venv dht-venv
source dht-venv/bin/activate
pip install --upgrade pip
pip install adafruit-circuitpython-dht adafruit-blinka
import time
import board
import adafruit_dht

# DHT22 を GPIO4 に接続
dhtDevice = adafruit_dht.DHT22(board.D4)

while True:
    try:
        temperature_c = dhtDevice.temperature
        humidity = dhtDevice.humidity
        print(f"Temp: {temperature_c:.1f}C    Humidity: {humidity:.1f}%")
    except RuntimeError as error:
        print("Retrying:", error.args[0])
        time.sleep(2.0)
        continue
    time.sleep(2.0)
python example.py

なお、リアルタイムの温度と湿度を記事の下に表示するように設定しています.APIサービスを自分で作りそこから受信している感じです.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

API, DHT, qiita, アマゾン, いつ, インストール, コード, こちら, こと, サービス, センサー, そこ, それ, チャッピー, とき, はい, プログラム, まま, もの, よう, ラズベリー, リアルタイム, リンク, 一言, 不明, 以前, 休み, 先日, 原因, 参照, 受信, 吉日, 向け, 土産, 完成, 工作, 感じ, 抽出, 方法, 明日, 温度, 湿度, 用意, 申し訳, 自分, 表示, 記事, 記載, 記述, 設定, 購入, 配線, 高知,


AI検索モードで崩壊寸前なのかも、なので.

20251001

Logging

おはようございます.あんなにも暑い夏から涼しくなってきましたが冬は平年よりも寒い時期が続くらしいです.冬は好きではないのですが冬が来るのだなって….

さて、AI検索モードで崩壊寸前なのかも、なので何か対策を取らないという思いいろいろと改善しようとこのサイトをテコ入れ策をしています.

会社でSEO対策をしている人は大変な時代になってきたなと思っています.明らかにソーシャルメディアに力を入れている会社じゃないと厳しいかなと特にハウツーサイトはかなりチャット生成AI(人工知能)で打撃になっています.

自分のサイトはプログラムコードなどの記事はだいぶアクセス数が減りました.それに伴い広告収入も激減しました.恐らく直ぐにはアクセス数が戻るとは思えないので、当分の間は収益がスズメの涙程度になることは覚悟して置かないと大変です.

もしこれが会社でSEO対策などをしていた人達は広告宣伝を薦めるか、ソーシャルメディアを薦めるかになると思いますが自分はどちらもそれ程効果はないと思っています.広告を増やしてもそれ程効果はないので顧客の負担が増えるだけです、ソーシャルメディアはボットではそれほど効果はないので人が発信した方が良さそうです.

因みに自分はボットを人が発信したような感じで投稿できるように模索中(開発中)です.たぶん一番それが効果がありそうです.

※自宅PC{人工知能搭載で処理して}からAPIサーバーに投げてそれを投稿するようなそんな形にしようかとそれだと費用は電気代だけです.高価なサーバーでAI動かすや人工知能のAPI費用を支払うよりも安価な方法かと思います.

明日へ続く

著者名  @taoka_toshiaki

※この記事は著者が40代後半に書いたものです.

Profile
高知県在住の@taoka_toshiakiです、記事を読んで頂きありがとうございます.
数十年前から息を吸うように日々記事を書いてます.たまに休んだりする日もありますがほぼ毎日投稿を心掛けています😅.
SNSも使っています、フォロー、いいね、シェア宜しくお願い致します🙇.
SNS::@taoka_toshiaki

OFUSEで応援を送る

タグ

AI, API, PC, SEO, アクセス, あんなに, コード, こと, これ, サーバー, サイト, すすめ, ソーシャルメディア, そう, それ, チャット, テコ入れ, どちら, ハウツー, プログラム, ボット, モード, よう, 一番, 人工, 人達, 会社, 処理, 効果, 収入, 収益, 大変, 好き, 安価, 宣伝, 寸前, 対策, 崩壊, 平年, 広告, 当分, 感じ, 打撃, 投稿, 搭載, 改善, 方法, 明らか, 明日, 時代, 時期, 検索, 模索, 激減, 生成, 発信, 直ぐ, 知能, 程度, 自分, 自宅, 覚悟, 記事, 負担, 費用, 開発, 電気, 顧客, 高価,