이 세션에서는 Polyglot Notebooks과 Semantic Kernel을 이용해서 지능형 .NET 콘솔 앱을 개발해 보겠습니다.
GitHub Codespaces 또는 Visual Studio Code 환경에서 작업하는 것을 기준으로 합니다.
아래 Visual Studio Code 확장 기능을 설치합니다.
-
터미널을 열고 아래 명령어를 차례로 실행시켜 리포지토리의 루트 디렉토리로 이동합니다.
# GitHub Codespaces REPOSITORY_ROOT=$CODESPACE_VSCODE_FOLDER cd $REPOSITORY_ROOT # bash/zsh REPOSITORY_ROOT=$(git rev-parse --show-toplevel) cd $REPOSITORY_ROOT # PowerShell $REPOSITORY_ROOT = git rev-parse --show-toplevel cd $REPOSITORY_ROOT
세이브 포인트에서 가져온 프로젝트를 사용하려면 아래 명령어를 차례로 실행시켜 프로젝트를 복원합니다.
# bash/zsh mkdir -p workshop && cp -a save-points/session-06/. workshop/ cd workshop dotnet restore && dotnet build # PowerShell New-Item -Type Directory -Path workshop -Force && Copy-Item -Path ./save-points/session-06/* -Destination ./workshop -Recurse -Force cd workshop dotnet restore && dotnet build
-
아래 명령어를 실행시켜
workshop디렉토리 바로 밑에semantic-kernel.ipynb파일을 생성합니다.# bash/zsh touch $REPOSITORY_ROOT/workshop/semantic-kernel.ipynb # PowerShell New-Item -Type File -Path $REPOSITORY_ROOT/workshop/semantic-kernel.ipynb -Force
-
semantic-kernel.ipynb파일을 열고 아래와 같이 입력합니다.Console.WriteLine("Hello, World!"); -
아래 그림과 같이 셀 왼쪽의
▶️ 버튼을 클릭해서 코드를 실행시킵니다. 이 때.NET Interactive,csharp - C# Script,Code설정이 제대로 되어 있는지 확인합니다.
-
semantic-kernel.ipynb파일을 열고 앞서 입력한 셀의 내용을 아래와 같이 수정합니다.// Nuget Packages #r "nuget: MelonChart.NET, 2.*" #r "nuget: Microsoft.SemanticKernel, 1.*" #r "nuget: Microsoft.SemanticKernel.Connectors.OpenAI, 1.*" #r "nuget: Microsoft.SemanticKernel.Core, 1.*" #r "nuget: Microsoft.SemanticKernel.Plugins.Core, 1.*-*" #r "nuget: Microsoft.SemanticKernel.Plugins.Memory, 1.*-*" #r "nuget: System.Linq.Async, 6.*"이후 셀을 실행시켜 NuGet 패키지를 설치합니다.
-
새 코드 셀을 아래에 추가한 후, 아래와 같이
using디렉티브를 입력합니다.// Add using statements using System.ComponentModel; using System.Net.Http; using System.Text.Encodings.Web; using System.Text.Json; using System.Text.Json.Serialization; using MelonChart.Models; using Microsoft.SemanticKernel; using Microsoft.SemanticKernel.Connectors.OpenAI; using Microsoft.SemanticKernel.Memory; using Kernel = Microsoft.SemanticKernel.Kernel;이후 셀을 실행시킵니다.
-
새 코드 셀을 아래에 추가한 후, 아래와 같이 입력하고
endpoint와apiKey,deploymentName값을 추가합니다. 이 값들은 이미 세션 00: 개발 환경 설정에서 받았습니다.// Azure OpenAI configurations var endpoint = "<AZURE_OPENAI_ENDPOINT>"; var apiKey = "<AZURE_OPENAI_API_KEY>"; var deploymentName = "<AZURE_OPENAI_DEPLOYMENT_NAME>";이후 셀을 실행시킵니다.
-
새 코드 셀을 아래에 추가한 후, 아래와 같이 입력합니다.
// Build Semantic Kernel var kernel = Kernel.CreateBuilder() .AddAzureOpenAIChatCompletion( deploymentName: deploymentName, endpoint: endpoint, apiKey: apiKey) .Build();이후 셀을 실행시킵니다.
-
새 코드 셀을 아래에 추가한 후, 아래와 같이 입력합니다.
// Invoke the prompt var result = await kernel.InvokePromptAsync<string>("대구는 왜 더울까?"); Console.WriteLine(result);이후 셀을 실행시켜 결과를 확인합니다.
-
Invoke the prompt셀 바로 위에 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.// User input var question = await Microsoft.DotNet.Interactive.Kernel.GetInputAsync("무엇이 궁금한가요?"); Console.WriteLine($"User: {question}");이후 셀을 실행시켜 결과를 확인합니다.
-
Invoke the prompt셀을 아래와 같이 수정합니다.// Invoke the prompt // 수정 전 var result = await kernel.InvokePromptAsync<string>("대구는 왜 더울까?"); // 수정 후 var result = await kernel.InvokePromptAsync<string>(question); Console.WriteLine(result);이후 셀을 실행시켜 결과를 확인합니다.
-
아래 명령어를 실행시켜
GetIntent라는 프롬프트를 추가합니다.# bash/zsh mkdir -p $REPOSITORY_ROOT/workshop/Prompts/GetIntent touch $REPOSITORY_ROOT/workshop/Prompts/GetIntent/config.json touch $REPOSITORY_ROOT/workshop/Prompts/GetIntent/skprompt.txt # PowerShell New-Item -Type Directory -Path $REPOSITORY_ROOT/workshop/Prompts/GetIntent -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Prompts/GetIntent/config.json -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Prompts/GetIntent/skprompt.txt -Force
-
Prompts/GetIntent디렉토리의config.json파일을 열고 아래와 같이 입력합니다.{ "schema": 1, "type": "completion", "description": "Identify the intent of the user's request", "execution_settings": { "default": { "max_tokens": 800, "temperature": 0 } }, "input_variables": [ { "name": "input", "description": "The user's request", "required": true } ] } -
Prompts/GetIntent디렉토리의skprompt.txt파일을 열고 아래와 같이 입력합니다.Identify the user's intent. Return one of the following values: ListOfSongsByArtist - If the user wants to have the list of songs by an artist ListOfAlbumsByArtist - If the user wants to have the list of albums by an artist CurrentRank - If the user wants to know the rank of a song Unknown - If the user's intent matches none of the above Examples: --- user input: Give me the list of titles by aespa assistant: ListOfSongsByArtist user input: How many songs by aespa are on the chart? assistant: ListOfSongsByArtist user input: aespa 노래들이 궁금해 assistant: ListOfSongsByArtist user input: I'd like to have the names of the albums by Ive assistant: ListOfAlbumsByArtist user input: IVE 앨범 이름을 알려줘 assistant: ListOfAlbumsByArtist user input: What rank is the song, Supernova? assistant: CurrentRank user input: Supernova 노래 순위가 궁금해 assistant: CurrentRank user input: {{$input}} assistant: -
아래 명령어를 실행시켜
RefineQuestion라는 프롬프트를 추가합니다.# bash/zsh mkdir -p $REPOSITORY_ROOT/workshop/Prompts/RefineQuestion touch $REPOSITORY_ROOT/workshop/Prompts/RefineQuestion/config.json touch $REPOSITORY_ROOT/workshop/Prompts/RefineQuestion/skprompt.txt # PowerShell New-Item -Type Directory -Path $REPOSITORY_ROOT/workshop/Prompts/RefineQuestion -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Prompts/RefineQuestion/config.json -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Prompts/RefineQuestion/skprompt.txt -Force
-
Prompts/RefineQuestion디렉토리의config.json파일을 열고 아래와 같이 입력합니다.{ "schema": 1, "type": "completion", "description": "Refine the user's request based on the identified intent", "execution_settings": { "default": { "max_tokens": 800, "temperature": 0 } }, "input_variables": [ { "name": "input", "description": "The user's request", "required": true }, { "name": "intent", "description": "The user's intent", "required": true } ] } -
Prompts/RefineQuestion디렉토리의skprompt.txt파일을 열고 아래와 같이 입력합니다.Refine the user's question based on the intent provided. Here's the intent: {{$intent}} These are the list of intents and their corresponding explanations: - ListOfSongsByArtist - If the user wants to have the list of songs by an artist - ListOfAlbumsByArtist - If the user wants to have the list of albums by an artist - CurrentRank - If the user wants to know the rank of a song - Unknown - If the user's intent matches none of the above Examples: --- user input: What are the songs by aespa? intent: ListOfSongsByArtist assistant: List all the songs by aespa in the chart user input: I'm curious which albums Ive has in the chart intent: ListOfAlbumsByArtist assistant: List all the albums by Ive in the chart user input: What rank is Supernova? intent: CurrentRank assistant: What is the rank of the song, Supernova, in the chart? user input: aespa 노래? intent: ListOfSongsByArtist assistant: List all the songs by aespa in the chart user input: 임영웅 앨범 이름들? intent: ListOfAlbumsByArtist assistant: List all the albums by 임영웅 in the chart user input: 천상연 노래 순위는 어때? intent: CurrentRank assistant: What is the rank of the song, 천상연, in the chart? user input: {{$input}} intent: {{$intent}} assistant: -
아래 명령어를 실행시켜
RefineResult라는 프롬프트를 추가합니다.# bash/zsh mkdir -p $REPOSITORY_ROOT/workshop/Prompts/RefineResult touch $REPOSITORY_ROOT/workshop/Prompts/RefineResult/config.json touch $REPOSITORY_ROOT/workshop/Prompts/RefineResult/skprompt.txt # PowerShell New-Item -Type Directory -Path $REPOSITORY_ROOT/workshop/Prompts/RefineResult -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Prompts/RefineResult/config.json -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Prompts/RefineResult/skprompt.txt -Force
-
Prompts/RefineResult디렉토리의config.json파일을 열고 아래와 같이 입력합니다.{ "schema": 1, "type": "completion", "description": "Refine the response based on the identified intent", "execution_settings": { "default": { "max_tokens": 800, "temperature": 0 } }, "input_variables": [ { "name": "input", "description": "The result from the previous step in JSON format", "required": true }, { "name": "intent", "description": "The user's intent", "required": true } ] } -
Prompts/RefineResult디렉토리의skprompt.txt파일을 열고 아래와 같이 입력합니다.<message role="system">You have the list of JSON data containing the title, album, artist and current rank of a song. The data is written in both Korean and English. Convert the data in the format of artist|current rank|title|album</message> <message role="user">This is the intent of this request {{$intent}}</message> For example: <message role="user">{"songId":"36318125","rank":"100","rankStatus":"none","rankStatusValue":0,"title":"Kitsch","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"36356993","rank":"28","rankStatus":"none","rankStatusValue":0,"title":"I AM","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"34847378","rank":"63","rankStatus":"none","rankStatusValue":0,"title":"LOVE DIVE","artist":"IVE (아이브)","album":"LOVE DIVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/109/09/179/10909179_20220405103521_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"37463573","rank":"46","rankStatus":"none","rankStatusValue":0,"title":"Accendio","artist":"IVE (아이브)","album":"IVE SWITCH","image":"https://cdnimg.melon.co.kr/cm2/album/images/114/75/530/11475530_20240430093854_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"36871671","rank":"93","rankStatus":"none","rankStatusValue":0,"title":"Baddie","artist":"IVE (아이브)","album":"I'VE MINE","image":"https://cdnimg.melon.co.kr/cm2/album/images/113/33/459/11333459_20231013103537_500.jpg/melon/resize/120/quality/80/optimize"}</message> <message role="user">Intent: ListOfSongsByArtist</message> <message role="assistant">IVE (아이브)|100|Kitsch|I've IVE\nIVE (아이브)|28|I AM|I've IVE\nIVE (아이브)|63|LOVE DIVE|LOVE DIVE\nIVE (아이브)|46|Accendio|IVE SWITCH\nIVE (아이브)|93|Baddie|I'VE MINE</message> <message role="user">{"songId":"36318125","rank":"100","rankStatus":"none","rankStatusValue":0,"title":"Kitsch","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}</message> <message role="user">Intent: ListOfSongsByArtist</message> <message role="assistant">IVE (아이브)|100|Kitsch|I've IVE</message> <message role="user">{"songId":"36318125","rank":"100","rankStatus":"none","rankStatusValue":0,"title":"Kitsch","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"36356993","rank":"28","rankStatus":"none","rankStatusValue":0,"title":"I AM","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"34847378","rank":"63","rankStatus":"none","rankStatusValue":0,"title":"LOVE DIVE","artist":"IVE (아이브)","album":"LOVE DIVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/109/09/179/10909179_20220405103521_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"37463573","rank":"46","rankStatus":"none","rankStatusValue":0,"title":"Accendio","artist":"IVE (아이브)","album":"IVE SWITCH","image":"https://cdnimg.melon.co.kr/cm2/album/images/114/75/530/11475530_20240430093854_500.jpg/melon/resize/120/quality/80/optimize"}\n{"songId":"36871671","rank":"93","rankStatus":"none","rankStatusValue":0,"title":"Baddie","artist":"IVE (아이브)","album":"I'VE MINE","image":"https://cdnimg.melon.co.kr/cm2/album/images/113/33/459/11333459_20231013103537_500.jpg/melon/resize/120/quality/80/optimize"}</message> <message role="user">Intent: ListOfAlbumsByArtist</message> <message role="assistant">IVE (아이브)|100|Kitsch|I've IVE\nIVE (아이브)|28|I AM|I've IVE\nIVE (아이브)|63|LOVE DIVE|LOVE DIVE\nIVE (아이브)|46|Accendio|IVE SWITCH\nIVE (아이브)|93|Baddie|I'VE MINE</message> <message role="user">{"songId":"36318125","rank":"100","rankStatus":"none","rankStatusValue":0,"title":"Kitsch","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}</message> <message role="user">Intent: ListOfAlbumsByArtist</message> <message role="assistant">IVE (아이브)|100|Kitsch|I've IVE</message> <message role="user">{"songId":"36318125","rank":"100","rankStatus":"none","rankStatusValue":0,"title":"Kitsch","artist":"IVE (아이브)","album":"I've IVE","image":"https://cdnimg.melon.co.kr/cm2/album/images/112/11/297/11211297_20230410151046_500.jpg/melon/resize/120/quality/80/optimize"}</message> <message role="user">Intent: CurrentRank</message> <message role="assistant">IVE (아이브)|100|Kitsch|I've IVE</message> <message role="user">{{$input}}</message> <message role="user">Intent: {{$intent}}</message> <message role="assistant">artist|current rank|title|album</message> -
semantic-kernel.ipynb파일에서Build Semantic Kernel셀을 찾아 그 바로 아래에 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.// Import prompts var prompts = kernel.ImportPluginFromPromptDirectory("Prompts");이후 셀을 실행시켜 프롬프트를 추가합니다.
-
Invoke the prompt셀을 아래와 같이 수정합니다.// 수정 전 // Invoke the prompt var result = await kernel.InvokePromptAsync<string>(question); // 수정 후 // Invoke the prompt - GetIntent var intent = await kernel.InvokeAsync<string>( function: prompts["GetIntent"], arguments: new KernelArguments() { { "input", question } }); Console.WriteLine(intent);이후 셀을 실행시켜 결과를 확인합니다. 만약 결과가
Unknown이 나오면 다시 질문을 입력하고 결과를 확인합니다. -
새 코드 셀을 추가한 후, 아래와 같이 입력합니다.
// Invoke the prompt - RefineQuestion var refined = await kernel.InvokeAsync<string>( function: prompts["RefineQuestion"], arguments: new KernelArguments() { { "input", question }, { "intent", intent } }); Console.WriteLine(refined);이후 셀을 실행시켜 결과를 확인합니다.
-
아래 명령어를 실행시켜
AddMemory라는 플러그인을 추가합니다.# bash/zsh mkdir -p $REPOSITORY_ROOT/workshop/Plugins/AddMemory touch $REPOSITORY_ROOT/workshop/Plugins/AddMemory/AddMelonChartPlugin.cs # PowerShell New-Item -Type Directory -Path $REPOSITORY_ROOT/workshop/Plugins/AddMemory -Force New-Item -Type File -Path $REPOSITORY_ROOT/workshop/Plugins/AddMemory/AddMelonChartPlugin.cs -Force
-
Plugins/AddMemory디렉토리의AddMelonChartPlugin.cs파일을 열고 아래와 같이 입력합니다.using System.ComponentModel; using System.Net.Http; using System.Text.Encodings.Web; using System.Text.Json; using System.Text.Json.Serialization; using MelonChart.Models; using Microsoft.SemanticKernel; using Microsoft.SemanticKernel.Connectors.OpenAI; using Microsoft.SemanticKernel.Memory; #pragma warning disable SKEXP0001 public class AddMelonChartPlugin { private const string COLLECTION = "MelonChart"; [KernelFunction, Description("Add Melon Chart data to the memory")] public static async Task AddChart( [Description("The Semantic Memory instance")] ISemanticTextMemory memory, [Description("The HttpClient instance")] HttpClient http, [Description("The JsonSerializerOptions instance")] JsonSerializerOptions jso) { var today = DateTimeOffset.UtcNow .ToOffset(TimeZoneInfo.FindSystemTimeZoneById("Korea Standard Time").BaseUtcOffset) .ToString("yyyyMMdd"); var data = await http.GetStringAsync($"https://raw.githubusercontent.com/aliencube/MelonChart.NET/main/data/top100-{today}.json"); var chart = JsonSerializer.Deserialize<ChartItemCollection>(data, jso); foreach (var item in chart.Items) { var index = chart.Items.IndexOf(item) + 1; var serialised = JsonSerializer.Serialize(item, jso); await memory.SaveInformationAsync(collection: COLLECTION, id: $"{today}-{index.ToString("000")}", text: serialised); Console.WriteLine($"- Stored: {item.Artist} - {item.Title}"); } } [KernelFunction, Description("Search question from the memory")] public static async Task<List<ChartItem>> FindSongs( [Description("The Semantic Memory instance")] ISemanticTextMemory memory, [Description("The question")] string question, [Description("The JsonSerializerOptions instance")] JsonSerializerOptions jso) { var results = await memory.SearchAsync(COLLECTION, question, limit: 100, minRelevanceScore: 0.8d).ToListAsync(); var output = results.Select(r => JsonSerializer.Deserialize<ChartItem>(r.Metadata.Text, jso)).ToList(); return output; } }
-
Import prompts셀을 찾아 바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.// Import codes #!import Plugins/AddMemory/AddMelonChartPlugin.cs이후 셀을 실행시킵니다.
-
바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.
// Import plugins kernel.ImportPluginFromType<AddMelonChartPlugin>();이후 셀을 실행시킵니다.
-
Import plugins셀 바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.// Build Semantic Memory #pragma warning disable SKEXP0001 #pragma warning disable SKEXP0010 #pragma warning disable SKEXP0050 var memory = new MemoryBuilder() .WithAzureOpenAITextEmbeddingGeneration( deploymentName: "model-textembeddingada002-2", endpoint: endpoint, apiKey: apiKey) .WithMemoryStore(new VolatileMemoryStore()) .Build();이후 셀을 실행시킵니다.
-
바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.
// Add HttpClient instance. var http = new HttpClient();이후 셀을 실행시킵니다.
-
바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.
// Add JsonSerializerOptions instance. var jso = new JsonSerializerOptions() { WriteIndented = false, PropertyNamingPolicy = JsonNamingPolicy.CamelCase, Encoder = JavaScriptEncoder.UnsafeRelaxedJsonEscaping, Converters = { new JsonStringEnumConverter(JsonNamingPolicy.CamelCase) }, };이후 셀을 실행시킵니다.
-
Invoke the prompt - RefineQuestion셀을 찾아 바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.// Invoke the plugin - Add Melon Chart data await kernel.InvokeAsync( pluginName: nameof(AddMelonChartPlugin), functionName: nameof(AddMelonChartPlugin.AddChart), arguments: new KernelArguments() { { "memory", memory }, { "http", http }, { "jso", jso }, } );이후 셀을 실행시켜 결과를 확인합니다.
-
바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.
// Invoke the plugin - Find songs var results = await kernel.InvokeAsync( pluginName: nameof(AddMelonChartPlugin), functionName: nameof(AddMelonChartPlugin.FindSongs), arguments: new KernelArguments() { { "memory", memory }, { "question", refined }, { "jso", jso }, } ); var data = results.GetValue<List<ChartItem>>().Select(p => JsonSerializer.Serialize(p, jso)).Aggregate((x, y) => $"{x}\n{y}"); Console.WriteLine(data);이후 셀을 실행시켜 결과를 확인합니다.
-
바로 아래 새 코드 셀을 추가한 후, 아래와 같이 입력합니다.
// Invoke the prompt - RefineResult var refined = await kernel.InvokeAsync<string>( function: prompts["RefineResult"], arguments: new KernelArguments() { { "input", data }, { "intent", intent } }); Console.WriteLine(refined);이후 셀을 실행시켜 결과를 확인합니다.
축하합니다! Polyglot Notebooks와 Semantic Kernel을 이용해 애저 OpenAI를 활용한 지능형 앱을 만들어 봤습니다.
(추가 세션) 이제 세션 06: Blazor JavaScript Interoperability 적용으로 넘어가세요.