技術的な何かをやりたいようにやっているサイトです。

2023/3/27

Azure OpenAI Service の GPT のモデル操作 Chat Completion と ChatML について

はじめに GPT ででモデルを操作する方法としてChat Completion と ChatMLがあります。これはGPTを利用するアプリケーション開発において方向性を決める重要な箇所となります。これら2つ手法によりGPTにアクセスできます。ただし、ここで注目すべき点としてはGPT-4ではChat Completionを操作する唯一の方法となります。そのため、ChatMLよりChat Completionを優先的に利用するのが良いと思います。それぞれ特徴を簡単まとめています。 Chat Complet ...

2023/3/26

Azure Kubernetes Fleet Manager でクラスタ間を連携する

はじめに Kubernetesでクラスタ間での連携する場合にはマルチクラスタや、サービスメッシュが思い浮かぶと思います。ASKではAzure Kubernetes Fleet Managerという機能があります。同じサブスクリプション内の同じまたは異なるリソースグループにまたがる AKS クラスター同じ Azure AD テナントの異なるサブスクリプションにわたる AKS クラスターリージョンは異なるが同じテナント内にある AKS クラスターもっと詳細は公式ドキュメントを確認してください。 *プ ...

2023/3/24

Azure Virtual Network Manager がGAしたので試す。

はじめに Azure Virtual Network ManagerがGAしたようなので試してみましょう。事前準備事前に以下の環境を構築しておきます。 VNET1 仮想マシン1 VNET2 仮想マシン2 作成作成はスコープを指定して起動します。作成後にネットワークグループを構成します。ネットワークグループは接続するVNETをグルーピングします。ネットワークグループを作成します。作成したネットワークグループにVNETを追加します。事前に作成していたVNETを追加します。次に接 ...

2023/3/23

kubectl-aiでマニフェストを作成しよう

はじめに kubectlにもマニフェストを作成してくれるプラグインが登場した。利用方法いたって簡単です。ダウンロードしたプラグインを/usr/local/binのコピーします。キーを設定します。 export OPENAI_API_KEY=<your OpenAI key> export OPENAI_DEPLOYMENT_NAME=<your OpenAI deployment/model name. defaults to "gpt-3.5-turbo"> ...

2023/5/10

Jabra Speak2 55 を購入したので製品レビューしてみた

はじめに Jabra Speak2 55をレビューしてみたいと思います。会議用スピーカーといえばJabra Speakシリーズというイメージがあります。今回は後継機であるSpeak2についてレビューしていきます。もともとJabra Speakを使っていたわけではないです。連日のリモート会議でヘッドホンを利用していると頭が痛くなるようになっていました。ちょうどSpeakを購入しようと検討したとことSpeak2 が発表になったので発売されるのを待っていました。そして購入可能となったので購入そしてレビューに至 ...

2023/3/21

デモ用アプリケーションのkuardを使ってみよう

はじめにコンテナーやKubernetesの検証を行う場合には、デモ用nginxを起動したりするかと思います。そこで、デモアプリケーションをしては結構有名？なkuardを紹介します。あまり聞きなれないかもしれません。 ASKのクイックスタートなどでも登場します。紹介していきたいと思います。起動する検証ではDocker で動かします。 docker run --rm -it --name kuard --publish 8080:8080 gcr.io/kuar-demo/kuard- ...

2023/3/20

cloudflared をPythonでコンテナーに実装する

はじめに cloudflared をPythonでコンテナーに実装する方法を紹介します。前回のPythonへの実装の続きです。これはcloudflared をコンテナーに実装する場合にはCloudflare のZero Trust 機能を利用する方法が紹介されています。しかし、Zero Trust 機能ではログインや支払いの登録などがあり気軽に利用出ません。そこでcloudflared をPythonでコンテナーに実装することで回避します。検証環境としてAzure Container ...

2023/3/20

remotemoeを使ってみよう

はじめにこれまでcloudflaredを紹介してきましたが、remotemoeというOSSもあります。これは自分で環境を整えることができるようです。 Goでビルドします。また、簡単に試すことができるようです。 remotemoe はstable_diffusion_webui_colab などで利用されています。 remote.moeのサーバーを利用する場合には注意してください。本番環境などでは現状はセキュリティ的にはお勧めできません。自身の環境に構築しましょう。試してみる簡単に試せるようです ...

2023/3/19

cloudflared を Pythonで実装する

はじめに cloudflared はCloudflareが提供するサービスで無償で登録なしに利用できるトンネリングのサービスです。そこでPythonに実装する方法を紹介します。例えば、これを利用すると通常は外部からのアクセスが容認されていないサービスに、外部からのアクセスできるバックドアのようなものも利用できると思います。これらを実装するためにpycloudflaredのモジュールを利用します。これはpython cloudflared wrapperです。実装サンプル pycloudflare ...

2023/3/20

Stable Diffusion web UI でCPU だけを利用して画像生成ができるようにする

はじめに Stable Diffusion web UI をCPU で利用できるようにする方法を紹介します。ノートパソコンにGPU載っているものでもLaptopバージョンでは動作しない可能があります。また、気軽にStable Diffusion を試してみたいですね。そこでブラウズで操作できるStable Diffusion web UIをCPUで利用してみたいと思います。最低条件本記事で検証を行っている環境 WSL2 Ubuntu 22.04 LTS（手動インポート）たぶんメモリは16GB必要（ ...

2023/4/11

Visual ChatGPTを試してみる

はじめに Visual ChatGPT というChatGPT と一連の Visual Foundation Models を接続して、チャット中に画像を送受信できるようにするOSSがMicrosoftから公開されているので試してみました。これはGPUではなくCPUだけで処理できるようです。一連の流れは下記の通りですが、Anacondaのインストールが必要になります。インストール Anacondaのインストール最初にPython環境を整えるためにAnacondaのインストールを行います。これはPyth ...

2023/3/17

ngrokの代わりにcloudflaredを使ってみよう

はじめに Cloudflareでcloudflaredというクライアントで動いているサービスを公開できるアプリケーションがあるみたいです。ngrokの代わりなりそうなものです。特にユーザー登録などないので気軽に使えるのでないでしょうか。試してみよう Ubuntuにインストールしてみましょう。 # wget https://github.com/cloudflare/cloudflared/releases/latest/download/cloudflared-linux-amd64.deb # dpk ...

2023/3/16

VSCodeでPlantUMLを利用してAzure、AWSの構成図を描く

はじめに VSCodeで簡単に構成図を出力する方法として、PlantUMLがあります。拡張機能として利用できます。簡単な図を利用して書けますが、AzureやAWSはアイコンが公開されておりインポートすることで利用できます。利用方法は下記を確認してください。 Azureの構成図を描く Azureのアイコンなどは下記で提供されています。サンプルもあるので表示してみます。 AWSの構成図を描く AWSのアイコンなどは下記で提供されています。サンプルもあるので表示してみます。まとめ AzureやAWSの ...

2023/3/16

/sbin/ldconfig.real: /usr/lib/wsl/lib/libcuda.so.1 is not a symbolic link を解消する

はじめに /sbin/ldconfig.real: /usr/lib/wsl/lib/libcuda.so.1 is not a symbolic link の解消方法です。 GPU搭載のPCでWSLを利用しようとした際に下記のようにエラーが発生。apt upgrade で出ます。 Processing triggers for libc-bin (2.35-0ubuntu3.1) ... /sbin/ldconfig.real: /usr/lib/wsl/lib/libcuda.so.1 is not ...

2023/3/15

PowerShell でOpenAI のChatGPT を利用する。Excelにも出力できるよ。

はじめに PowerShellでChatGPTを利用する方法を紹介します。すでにPowerShellのモジュールを作成している人がいるので利用させてもらいます。 PowerShellAIをインストール Install-Module -Name PowerShellAI でインストールします。 PS C:\Users\azureuser> Install-Module -Name PowerShellAI NuGet provider is required to continue PowerShe ...

« Prev 1 2 3 4 5 6 … 57 Next »