@Blog

15年ぐらいのパソコンで生成AIは果たして動くのか？

2025.10.06

Logging

おはようございます.15年ぐらいのパソコンで生成AIは果たして動くのか？試してみた結果、ギリ動くという事が分かったのだけど、全く持って使えないという事も判明しました.プロンプトを投げて、最初の一文字が返ってくるのに3分かかりその後1文字ずつ30秒毎に表示されていくのでレスポンスが全て完了するのに10分ぐらいは軽くかかります.

これでは使えないので現行のパソコン環境にモデルを落としてきて、プロンプトを投げた結果.1分ほどで全文のレスポンスが返ってきました、これなら使い物になるなと思う反面、仕事中に裏で動かすのは負荷的に如何なものかと思ったり…

生成AIモデルを使って何をしようとしているかと言えば前回記載した通り、自分が之まで書いてきた記事を要約して紹介文としてレスポンスで返してもらう、その紹介文を使用してXやその他のSNSにポストするような仕組みを作ろうとしています.

その前段階としてローカルパソコンで動作可能かどうかを先日の休みに試していました.因みに試したソースコードを貼っときますね.動かすには事前にCUDAを入っている事とモデルを落としてきている事などが必要です（Windowsの場合）.

import sys
from llama_cpp import Llama
from jinja2 import Template

# Windowsターミナルで文字化け対策
sys.stdout.reconfigure(encoding="utf-8")

# モデルロード
model_path = "models/Meta-Llama-3-8B-Instruct.Q5_0.gguf"
llm = Llama(model_path=model_path, n_gpu_layers=-1, n_ctx=600)

# 対話ログ保存ファイル
log_file = "chat_history.txt"

# jinja2テンプレート
chat_template = """{% set rule = "ルール: 以下の会話では必ず日本語で回答してください。" %}
{{ bos_token + '<|start_header_id|>system<|end_header_id|> ' + rule + '<|eot_id|>' }}
{% for message in messages %}
    {% set content = '<|start_header_id|>' + message['role'] + '<|end_header_id|> ' + message['content'] | trim + '<|eot_id|>' %}
    {{ content }}
{% endfor %}
{% if add_generation_prompt %}
    {{ '<|start_header_id|>assistant<|end_header_id|> ' }}
{% endif %}"""

print("=== 日本語対話モード ===")
print("終了するには exit と入力してください。\n")

messages = []

while True:
    user_input = input("あなた: ")
    if user_input.lower() == "exit":
        print("対話終了")
        break

    # ユーザーの発言を messages に追加
    messages.append({"role": "user", "content": user_input})

    # プロンプト生成
    template = Template(chat_template)
    prompt = template.render(messages=messages, bos_token="<s>", add_generation_prompt=True)

    # モデル呼び出し
    output = llm(prompt, max_tokens=200)
    text = output["choices"][0]["text"]

    # バイト列ならUTF-8変換
    if isinstance(text, bytes):
        text = text.decode("utf-8", errors="replace")

    print("アシスタント:", text)

    # メッセージとして追加（次のやり取りでコンテキスト維持）
    messages.append({"role": "assistant", "content": text})

    # ログに保存
    with open(log_file, "a", encoding="utf-8") as f:
        f.write(f"ユーザー: {user_input}\n")
        f.write(f"アシスタント: {text}\n\n")

明日へ続く

タグ

AI, CUDA, SNS, Windows, キリ, コード, これ, ソース, その他, その後, パソコン, プロンプト, ポスト, モデル, もの, よう, レスポンス, ローカル, 一文字, 事前, 仕事, 仕組み, 休み, 使い物, 使用, 先日, 全て, 全文, 判明, 前回, 動作, 反面, 可能, 場合, 如何, 完了, 必要, 文字, 明日, 最初, 段階, 現行, 環境, 生成, 紹介, 結果, 自分, 表示, 要約, 記事, 記載, 負荷, 通り,

映画、ひゃくえむを観てきました.もはや人生に

2025.09.20

Logging

おはようございます.映画、ひゃくえむを観てきました.いろいろと考えるところがあったけど、自分はやっぱ一度きりの人生楽しんだモノがちだと思うだよね.好きな事をしてきたから幸せなのかどうかとか、才能豊かで秀でていてもそれで幸せなのかなどいろいろとね映画を観て考えました.

迷ったりしたら自分の原点を見つめ直すことが大事になってくるだと思う映画のように.何でこれに全振りしているだとか何だとかたまに思ったりします.

映画がたんぱくに観える人もいるかもだけど、これは観る人がみると刺さると思うところがある、そんな内容になっています自分は観て良かったです.

エンジニアの端くれとしてやっていると何処かで退く時がやってくると思います、それはどんな職業でもそうだと.いずれ引退しないといけない時が来るけど、それがいつかを考えるよりも今を楽しんでいるかが未来の自分に繋がってくるのだと思います.

そういう意味では人にどう思われるよりも自分に悔いのないように生きとかないとかね.

いろいろとね、考える映画だった.

明日へ続く

タグ

いつか, エンジニア, ガチ, キリ, こと, これ, それ, たま, ところ, ひゃく, もの, よう, 人生, 何処, 内容, 原点, 大事, 好き, 幸せ, 引退, 悔い, 意味, 才能, 振り, 明日, 映画, 未来, 端くれ, 職業, 自分, 豊か,

ギリまで使うと思うものの続き、MacBook Proを見てきました、30ー32万円する.

2025.08.01

Logging

おはようございます.ギリまで使うと思うものの続き、MacBook Proをケーズデンキに行って見てきました、自分がほしいスペックのマックブックプロは30ー32万円する事が判明.正直なところ高いなと思う…昔の手取りなら簡単に買える感じかな.でも今は厳しいので手が届かない感じですね.

これから、マックブックプロ貯金を始めていこうと思います、貯金というかマックブックプロ投資を始めていこうと思っています.普通に貯金するより投資でお金に稼いでもらう感じで投資を行います.毎月その投資口座には一万円を入金する形で頑張っていきます.

自分の予想では購入金額の超えになるには2年ぐらいかと思っています.因みに前もって10万円は口座に入れていますが、この10万円は下ろさないものとして考えて投資額が38万円以上になったら必要な額だけ下ろす形にします.

因みに投資運用リスク強度は最大にして運用するので年利8.95％ぐらいになるだろうという考えのもとでの適当な表なので運用が上手くいかないくて目標達成出来ない可能性は大いにあると思ってください.

上手くいかない場合はマックブックプロが買えないので「あー」上手くいってないだなと思って頂いて結構です（※ロボプロはイメージです）（※衝動的に購入する場合もあります）.

明日へ続く

タグ

イメージ, お金, キリ, ケーズデンキ, スペック, ところ, ブック, プロ, マック, マックブックプロ, もと, もの, リスク, ロボプロ, 予想, 以上, 元本, 入金, 判明, 半年, 口座, 可能, 合計, 場合, 差額, 年利, 強度, 必要, 感じ, 手取り, 投資, 明日, 普通, 最大, 月数, 期間, 正直, 毎月, 目標, 簡単, 結構, 考え, 自分, 衝動, 評価, 貯金, 購入, 運用, 達成, 適当, 金額,

FastApiのコードをgitで管理するように.あとはテストサーバーのymal

2025.07.31

Logging

おはようございます.FastApiのコードをgitで管理するように.あとは自分のテスト環境用のymalもgithub上に置いておこうと思っています.

というのも、そろそろパソコンを買い替えようかなと思っています.もしかしたらウィンドウズ系からサヨナラするかもですが、Apple系は高いからなぁ置き換えるならまずメインのデスクトップから置き換えていかないとどうしようもない.

逆に言えばメインをウィンドウズを使用している間はアップル系には置き換えが難しいということです.今の仕事はWebシステム系なので、どちらかと言えばウィンドウズよりMacが適していると考える人が多いと思う.自分も買い替えたい気持ちがあるのだけども、自作PCの良いところはメンテナンスが自分で出来るところにある.

こういう事はアップル製品には難しい、精々メモリ交換やSSD交換ぐらいのものしか出来ないのが現状かな、なので徐々にアプリやセキュリティ更新に引っかかり新しい製品を購入しないと難しくなる事が多いのだが、自作PC場合は部品交換すると何とかなる事が多い.

そういう事もあって未だにボロパソコンを使用しているだけど、いろいろとガタがでてきているので部品交換するよりもう取っ替えた方が良い感じになりつつある.

そういう訳でウィンドウズかアップル製品にするかを凄く悩んでいます.皆さんならどうしますか？

因みに来年には恐らく買い替えないとどうしようもない感じになりそうです.ギリまで使い倒すとは思うものの…

明日へ続く

タグ

アップル, あと, アプリ, ウィンドウズ, ガタ, キリ, コード, こと, サヨナラ, システム, しょう, セキュリティ, そう, デスク, テスト, ところ, どちら, ドップ, パソコン, ボロパソコン, メイン, メモリ, メンテナンス, もの, よう, 交換, 仕事, 使用, 場合, 感じ, 明日, 更新, 来年, 気持ち, 現状, 環境, 皆さん, 管理, 自作, 自分, 製品, 購入, 部品,

8割のドメインをVPSサーバーで運用に切り替えました.あとの2割

2025.01.25

Logging

おはようございます.8割のドメインをVPSサーバーで運用に切り替えました.あとの2割も切り替える予定です.正直な所、もう一ランク上のVPSサーバーで運用するべきだったと後悔しています.メモリ2Gあれば十分かと思っていたけどそうでもない.

因みに移行していないドメインはここのドメインとHドメインとTドメインになります.こちらのドメインも来週中に移行する予定です.ただメモリの関係上、移行することができない場合もあります.たぶんギリ大丈夫そうなんですけどねぇ.

サーバー移行の際にエンジンエックスプロキシ（リバースプロキシ）のコンテナ起てて、ドメインをそれぞれのコンテナに振り分けて運用しているわけですが、WordPressのサーバーがドメインを叩くと無限ループに陥るのですね.この解決策を探るのにかなり時間を費やしました.

解決策はwp-config.phpにこれを記載すれば無限ループから開放されます.

define('FORCE_SSL_ADMIN', true);
if ( ! empty( $_SERVER['HTTP_X_FORWARDED_PROTO'] ) && $_SERVER['HTTP_X_FORWARDED_PROTO'] == 'https' ) {
       $_SERVER['HTTPS']='on';
}

明日へ続く

タグ

```, エンジンエックスプロキシ, かなり時間, キリ, こんてな, サーバー, サーバー移行, それぞれ, ドメイン, メモリ, リバースプロキシ, 割, 所, 無限ループ, 解決策, 運用, 関係上, 際,

先日の休みに大阪と京都へ行ってきました。梅田駅で

2023.07.24

Logging

おはようございます、先日の休みに大阪と京都へ行ってきましたので総括します💁。行った場所は二箇所。冨樫義博展と金閣寺です、まず冨樫義博展へ行ったのですが、中の展示している作画は写真NGだったので一枚も写真撮れませんでした。本当は1ブース写真OKの場所があるみたいに言っていたのだけど、何処かわからないまま最後まで観たという感じですね。

この展示会を10時に予約してほぼ一時間、観ていました。その後、阪急梅田駅に行き京都の西院（さんいん？）駅から市営バスに乗り金閣寺まで行きました。ここまでは順調でしたがそこから金閣寺から市営バスに乗りたぶん遠回りのコースで京都駅まで乗車し京都駅で少しループして大阪駅に付きました。記憶では3時頃です、そこから半時間ほど阪急梅田駅にたどり着く事が出来ず、大阪駅近辺をループしていました。

結局、伊丹空港にたどり着いたのは17時です。高知に19時10分発でかえる予定でしたのでお見上げとか買ったりしているとトントンの時間になってしまいました。本当は銀閣寺も見ようかなと思っていましたが、ギリになるので今回は辞めようと決断していたので上手く帰れたのですが、これで銀閣寺も観に行っていたら恐らくフライトには間に合わなかったと思います。久しぶりに迷ったのは少し凹みました。

タグ

お見上げ, キリ, コース, さんいん, プライド, 京都, 伊丹空港, 作画, 写真NG, 冨樫義博展, 大阪駅近辺, 市営バス, 西院, 観, 記憶, 遠回り, 金閣寺, 銀閣寺, 阪急梅田駅, 高知,

javascriptを勉強中

2018.12.15

Logging

var a = 3;
var b = 10;
var obj = {
        hoge:function(a){
            a = a + a;
            return a;
        },
        a:a = a && 5,
        b:b = b || 3
    };
console.log(obj.hoge(2));
console.log(obj.a);
console.log(obj.b);

上記のCodeを動かすと仕事と表示されます（笑）、4，5，10と表示されます。
何故そうなったかを考えるとキリがないのでそういうものだと
思ったほうが良いかもしれないです。
説明するとhogeはオブジェクトです。あとは変数とIF文の省略系を
記述しているだけです、実際は＝もいらないですが・・・。
わかりやすく自分なりに記載したつもりです。
javascriptライブラリってこういうのが何百行も記載して成り立っていますが
概念はこういう事です。自分は基本的に概念しか覚えないのです。
何故、そうしているか・・・自分が怠惰な人間だからです。
 

タグ

10, 2, ３, 4，5，10, 5, amp, Code, console, function, hoge, if, javascript, log, obj, return, var, あと, オブジェクト, キリ, つもり, もいら, もの, 上記, 仕事, 勉強, 変数, 実際, 文, 省略, 自分, 表示, 記載, 記述, 説明,

情報セキュリティマネジメントの資格、合格に自信なし、でも受かるだろうなギリで。

2017.04.12

Logging

情報セキュリティマネジメントの資格、合格に自信なし、でも受かるだろうなギリで。
自信は無いです。今から午後の問題と知識を植え付けないと余裕で合格することはないと
自分でも思っています。合格率は高い試験ですけれど、全然勉強もしないで
合格できるものなんて無いです。
ある程度以上のIT知識がないと合格は無理ですね。
いま合格率が高いのは、基本情報技術者とかの午前合格者がこの試験に望んでいるから
だと、自分は分析しています。会社からこの試験を受けに行けといわれて
資格を取りに来ているIT関係者が多そうな気がしますね。
そういう訳があって、合格率が高いじゃないのかな。
そのうち、この試験、合格率が50％台に落ちるじゃないかなと思っています。
なので、ある程度、IT関係者が持っていて
意義はある資格じゃないかなと思います。ある意味、IT業界のパスポートに
なりうる資格かなと感じます。この資格も取れないと
基準外になる可能性もそのうち出てきそうです。
ということで
頑張って試験勉強をします！！

タグ

IT業界, IT知識, IT関係者, うち, ウチ, キミ, キリ, パスポート, 午前合格者, 可能性, 合格率, 基本情報技術者, 基準外, 情報セキュリティマネジメント, 意義, 知的冒険2, 試験勉強, 資格,

TweetDeckって言うWindowアプリ使ってます。(｀・ω・´)キリ。

2015.01.11

Logging

 
TweetDeckっていうWindowアプリ使ってます。ちなみに日本語対応していませんので
少々英語がわかる方じゃないと慣れるまで時間がかかります。
ちなみにTwitter公式アプリですので消えることはないかと思います。
日本産のTwitterアプリで有名なのがjanetterなのですけど、こちらTwitter社の定めた
認証上限に達したため、現在ユーザーの新規登録ができないことがあるのです。
janetterの公式HPにもそう書かれているのですが、何のことかたぶんわからない文言だと
思います。ざっくり言うとTwitter社の認可をもらってアプリやWEBサービスを企業や
個人が開発するのですが、その時にTwitter社との規定の中にユーザー上限数が
あります。その上限数以上のユーザー数を超えた場合、新規にユーザーがアプリをDLして
使用したとしても繋がっているユーザーが規定の上限以上だと新規のユーザーが
使用できないという事象が発生してしまうのです。
そういう事もあって自分はスマホもWindowもMacもTwitter公式アプリを使用してます。
 
※こういう記事、かなり前に掲載しましたね（もう消したと思うけどヽ(´ー｀)ノ）。
 

タグ

janetter, TweetDeck, Twitterアプリ, Twitter公式アプリ, Twitter社, Webサービス, Windowアプリ, キリ, ユーザー, ユーザー上限数, 上限以上, 上限数以上, 事象, 少々英語, 文言, 日本産, 日本語, 規定, 認可, 認証上限,