c#에서 네트워크로 받은 데이터를 메모리풀로 관리하는 아이디어

Author: jacking75

packet_distribution_strategies_in_multithreading/README.md

@@ -0,0 +1,31 @@
+# 멀티스레드에서의 패킷 분배 전략 
+
+## 전제
+- 네트워크 처리는 비동기 IO
+- 패킷 처리(클라이언트 요청)는 워커스레드
+- 패킷 데이터는 세션 별로 할당 되어 있다
+- 프로그래밍 언어는 C#
+   
+   
+## PacketQueue, 패키 처리 완료 통보 
+  
+  
+  
+## PacketList, 패키 처리 완료 통보  
+- 미리 capacity(D)를 설정한다
+- 현재 사용 중인 패킷 데이터 개수(C)
+- 현재 사용 인덱스(A)가 가리키는 패킷 데이터를 사용한다
+    - (C)가 (D)와 같으면 빈 패킷 데이터가 없다는 뜻이다
+- 현재 사용량 크기(B)
+- 패킷 처리 스레드로 보내면 (B)에 `+1` 킨다.
+- 통보쪽에서는 알리면 (B)에 `-1` 시킨다.
+
+- 낙관적처리: 통보 없이(빈 데이터가 있는지 조사하지 않고) 로테이션 
+  
+  
+## 링버퍼, 패키 처리 완료 통보    
+
+- 통보쪽에서는 패킷 크기만 알려주면 Int64 타입의 변수에 누적시킨다.  
+  
+- 낙관적처리: 통보 없이 로테이션  
+  

packet_distribution_strategies_in_multithreading/TestProject/PacketData.cs

@@ -0,0 +1,27 @@
+using System;
+using System.Collections.Generic;
+using System.Linq;
+using System.Text;
+using System.Threading.Tasks;
+
+namespace TestProject;
+
+//GC 최적화를 한다면 외부에서 큰 버퍼를 만들고, 버퍼의 일부를 여기에 할당해서 
+// 큰 메모리 조각을 나누어서 사용하는 것이 더 좋을 수 있다.
+// 이 버퍼는 프로그램 종료까지 사용될테니 처음부터 GC 2세대로 보내거나 pin 하는 것이 더 좋다
+public class PacketData
+{
+    public Int32 SessionId { get; private set; }
+    public Byte[] Data { get; private set; }
+
+    public void Init(Int32 dataSize)
+    {   
+        Data = new Byte[dataSize];
+    }
+
+    public void SetData(Int32 sessionId, Byte[] data)
+    {
+        this.SessionId = sessionId;
+        Buffer.BlockCopy(data, 0, Data, 0, data.Length);    
+    }
+}

packet_distribution_strategies_in_multithreading/TestProject/PacketList.cs

@@ -0,0 +1,49 @@
+using System;
+using System.Collections.Generic;
+using System.Linq;
+using System.Text;
+using System.Threading.Tasks;
+
+namespace TestProject;
+
+public class PacketList
+{
+    Int64 _capacity = 0;    // 좀 넉넉한 크기여야 한다
+    Int64 _useCount = 0;
+
+    List<PacketData> _packets = new List<PacketData>();
+
+
+    void Init(Int64 capacity, int maxPacketSize)
+    {
+        _capacity = capacity;
+
+        for(var i = 0; i < _capacity; i++)
+        {
+            var packet = new PacketData();
+            packet.Init(maxPacketSize);
+
+            _packets.Add(packet);
+        }
+    }
+
+    // 1개의 스레드에서만 호출한다고 가정한다
+    PacketData? Alloc()
+    {
+        if(Interlocked.Read(ref _useCount) == _capacity)
+        {
+            return null;
+        }
+
+        var index = _capacity % _useCount;
+        var packet = _packets[(int)index];
+
+        ++_useCount;
+        return packet;
+    }
+
+    void Free(PacketData packet)
+    {
+        Interlocked.Decrement(ref _useCount);
+    }
+}

packet_distribution_strategies_in_multithreading/TestProject/PacketQuerue.cs

@@ -0,0 +1,29 @@
+using System;
+using System.Collections.Concurrent;
+using System.Collections.Generic;
+using System.Linq;
+using System.Text;
+using System.Threading.Tasks;
+
+namespace TestProject
+{
+    public class PacketQuerue
+    {
+        ConcurrentBag<PacketData> packetDatas = new ConcurrentBag<PacketData>();
+
+        PacketData Alloc()
+        {
+            if(packetDatas.TryTake(out var packetData))
+            {
+                return packetData;
+            }
+
+            return null;
+        }
+
+        void Free(PacketData packetData)
+        {
+            packetDatas.Add(packetData);
+        }
+    }
+}

packet_distribution_strategies_in_multithreading/TestProject/PacketRingBuffer.cs

@@ -0,0 +1,18 @@
+using System;
+using System.Collections.Generic;
+using System.Linq;
+using System.Text;
+using System.Threading.Tasks;
+
+namespace TestProject;
+
+public class PacketRingBuffer
+{
+    byte[] _buffer;
+
+
+    void Init(Int32 capacity)
+    {
+        _buffer = new byte[capacity];
+    }
+}

packet_distribution_strategies_in_multithreading/TestProject/TestProject.csproj

@@ -0,0 +1,24 @@
+<Project Sdk="Microsoft.NET.Sdk">
+
+  <PropertyGroup>
+    <TargetFramework>net8.0</TargetFramework>
+    <ImplicitUsings>enable</ImplicitUsings>
+    <Nullable>enable</Nullable>
+
+    <IsPackable>false</IsPackable>
+    <IsTestProject>true</IsTestProject>
+  </PropertyGroup>
+
+  <ItemGroup>
+    <PackageReference Include="coverlet.collector" Version="6.0.0" />
+    <PackageReference Include="Microsoft.NET.Test.Sdk" Version="17.8.0" />
+    <PackageReference Include="NUnit" Version="3.14.0" />
+    <PackageReference Include="NUnit.Analyzers" Version="3.9.0" />
+    <PackageReference Include="NUnit3TestAdapter" Version="4.5.0" />
+  </ItemGroup>
+
+  <ItemGroup>
+    <Using Include="NUnit.Framework" />
+  </ItemGroup>
+
+</Project>

packet_distribution_strategies_in_multithreading/TestProject/TestProject.sln

@@ -0,0 +1,25 @@
+
+Microsoft Visual Studio Solution File, Format Version 12.00
+# Visual Studio Version 17
+VisualStudioVersion = 17.9.34701.34
+MinimumVisualStudioVersion = 10.0.40219.1
+Project("{FAE04EC0-301F-11D3-BF4B-00C04F79EFBC}") = "TestProject", "TestProject.csproj", "{18752DA1-D12F-441C-B60A-AFE4989117D1}"
+EndProject
+Global
+	GlobalSection(SolutionConfigurationPlatforms) = preSolution
+		Debug|Any CPU = Debug|Any CPU
+		Release|Any CPU = Release|Any CPU
+	EndGlobalSection
+	GlobalSection(ProjectConfigurationPlatforms) = postSolution
+		{18752DA1-D12F-441C-B60A-AFE4989117D1}.Debug|Any CPU.ActiveCfg = Debug|Any CPU
+		{18752DA1-D12F-441C-B60A-AFE4989117D1}.Debug|Any CPU.Build.0 = Debug|Any CPU
+		{18752DA1-D12F-441C-B60A-AFE4989117D1}.Release|Any CPU.ActiveCfg = Release|Any CPU
+		{18752DA1-D12F-441C-B60A-AFE4989117D1}.Release|Any CPU.Build.0 = Release|Any CPU
+	EndGlobalSection
+	GlobalSection(SolutionProperties) = preSolution
+		HideSolutionNode = FALSE
+	EndGlobalSection
+	GlobalSection(ExtensibilityGlobals) = postSolution
+		SolutionGuid = {9F58F0E0-0AC5-4B4A-8A4B-5A3891CDE6BA}
+	EndGlobalSection
+EndGlobal

packet_distribution_strategies_in_multithreading/TestProject/UnitTest1.cs

@@ -0,0 +1,15 @@
+namespace TestProject;
+
+public class Tests
+{
+    [SetUp]
+    public void Setup()
+    {
+    }
+
+    [Test]
+    public void Test1()
+    {
+        Assert.Pass();
+    }
+}