Как совмещать несовместимое и ускорять неускоряемое с помощью ассемблера Go

Дополнительные материалы

Продвинутая база GO для работы и собеседований

Дополнительные материалы к видео

Устройство операционных систем: от ядра и системных вызовов до Go | Полный разбор

Дополнительные материалы к видео

Продвинутые дженерики в новых версиях Go

Дополнительные материалы к видео

Оперативная, виртуальная и внешняя память: от железа, дисков и ядра ОС до Go

Дополнительные материалы к видео

Собеседование на Senior Go | Разбор задачи из BigTech | LRU Cache

Дополнительные материалы к видео

Профилирование на Go | Полное руководство

Дополнительные материалы к видео

Всё про ошибки в Go | Полное руководство для работы и собеседований

Дополнительные материалы к видео

Тайны компилятора и истории Go | Полное руководство для собеседований

Дополнительные материалы к видео

Полное руководство про GC

Дополнительные материалы к видео

Понимание ассемблера Go

Дополнительные материалы к видео

gRPC на Go: от внутреннего устройства до архитектуры

Современная архитектура приложений

Что такое gRPC и как он появился

История появления gRPC

Stubby RPC

SPDY

gRPC

HTTP/2

Проблема HTTP/1

Head-of-line Blocking

Что делает HTTP/2

Устройство HTTP/2

type http2FrameHeader struct {
	valid bool // caller can access []byte fields in the Frame

	// Type is the 1 byte frame type. There are ten standard frame
	// types, but extension frame types may be written by WriteRawFrame
	// and will be returned by ReadFrame (as UnknownFrame).
	Type http2FrameType

	// Flags are the 1 byte of 8 potential bit flags per frame.
	// They are specific to the frame type.
	Flags http2Flags

	// Length is the length of the frame, not including the 9 byte header.
	// The maximum size is one byte less than 16MB (uint24), but only
	// frames up to 16KB are allowed without peer agreement.
	Length uint32

	// StreamID is which stream this frame is for. Certain frames
	// are not stream-specific, in which case this field is 0.
	StreamID uint32
}

Типы фреймов

type http2FrameType uint8

const (
	http2FrameData           http2FrameType = 0x0
	http2FrameHeaders        http2FrameType = 0x1
	http2FramePriority       http2FrameType = 0x2
	http2FrameRSTStream      http2FrameType = 0x3
	http2FrameSettings       http2FrameType = 0x4
	http2FramePushPromise    http2FrameType = 0x5
	http2FramePing           http2FrameType = 0x6
	http2FrameGoAway         http2FrameType = 0x7
	http2FrameWindowUpdate   http2FrameType = 0x8
	http2FrameContinuation   http2FrameType = 0x9
	http2FramePriorityUpdate http2FrameType = 0x10
)

type http2DataFrame struct {
	http2FrameHeader // заголовок фрейма
	data []byte // сами данные
}

type http2HeadersFrame struct {
	http2FrameHeader // заголовок фрейма

	// Priority is set if FlagHeadersPriority is set in the FrameHeader.
	Priority http2PriorityParam // параметры приоритета

	headerFragBuf []byte // not owned // буфер с фрагментом заголовков
}

Флаги

type http2Flags uint8

// Frame-specific FrameHeader flag bits.
const (
	// Data Frame
	http2FlagDataEndStream http2Flags = 0x1
	http2FlagDataPadded    http2Flags = 0x8

	// Headers Frame
	http2FlagHeadersEndStream  http2Flags = 0x1
	http2FlagHeadersEndHeaders http2Flags = 0x4
	http2FlagHeadersPadded     http2Flags = 0x8
	http2FlagHeadersPriority   http2Flags = 0x20

	// Settings Frame
	http2FlagSettingsAck http2Flags = 0x1

	// Ping Frame
	http2FlagPingAck http2Flags = 0x1

	// Continuation Frame
	http2FlagContinuationEndHeaders http2Flags = 0x4

	http2FlagPushPromiseEndHeaders http2Flags = 0x4
	http2FlagPushPromisePadded     http2Flags = 0x8
)

Пример HTTP/2 запроса

POST /go HTTP/1
Content-Length: 24

{"hello": "@igorutine"}

HeaderFrame{
 StreamId: 1
 Flags: FlagEndHeaders
 [
 :method: POST
 :path: /go
 Content-Length: 24
 ]
}

DataFrame{
	StreamId: 1,
	Flags: FlagEndStream,
	PayloadLength: 24,
	Data: {"hello": "..."},
}

200 OK
Content-Length: 0
Date: Sat, 14 Feb 2026 16:34:56 GMT

HeadersFrame{
 StreamId: 1
 Flags: FlagEndHeaders | FlagEndStream
 [
 :status: 200
 Content-Length: 0
 Date: Sat, ...
 ]
}

Сжатие

HeadersFrame{
 StreamId: 1
 Flags: FlagEndHeaders | FlagEndStream
 [
 :method: POST
 :path: /go
 Content-Length: 0
 ]
}

HeadersFrame{
 StreamId: 3
 Flags: FlagEndHeaders | FlagEndStream
 [
 :method: POST
 :path: /go
 Content-Length: 0
 ]
}

HeadersFrame{
 StreamId: 1
 Flags: FlagEndHeaders | FlagEndStream
 [
 :status: 20
 Content-Length: 0
 Date: Sat, ...
 ]
}

HeadersFrame{
 StreamId: 3
 Flags: FlagEndHeaders | FlagEndStream
 [
 :status: 20
 Content-Length: 0
 Date: Sat, ...
 ]
}

Внутреннее устройство gRPC

package grpctest.v1

service HelloService {
    rpc SayHello(HelloRequest) returns (HelloResponse);
}

:method: POST
:path: /grpctest.v1.HelloService/SayHello
content-type: application/grpc
user-agent: grpc-go/1.52.0

body: [...]

message HelloRequest {
    string name = 1;
}

message HelloResponse {
    string message = 1;
}

Protocol Buffers

Преимущества Protocol Buffers

Типы в Protocol Buffers

Scalar Types

message ScalarValueTypesExample {
    double double_field = 1; // Go Type: float64
    float api_field = 2; // Go Type: float32
    int32 int32_field = 3; // Go Type: int32
    int64 int64_field = 4; // Go Type: int64
    uint32 uint32_field = 5; // Go Type: uint32
    uint64 uint64_field = 6; // Go Type: uint64
    sint32 sint32_field = 7; // Go Type: int32
    sint64 sint64_field = 8; // Go Type: int64
    fixed32 fixed32_field = 9; // Go Type: uint32
    fixed64 fixed64_field = 10; // Go Type: uint64
    sfixed32 sfixed32_field = 11; // Go Type: int32
    sfixed64 sfixed64_field = 12; // Go Type: int64
    bool bool_field = 13; // Go Type: bool
    string string_field = 14; // Go Type: string
    bytes bytes_field = 15; // Go Type: []byte
}

Well-Known Types

message WellKnownTypesExample {
    google.protobuf.Any any_field = 1;
    google.protobuf.Api api_field = 2;
    google.protobuf.Duration duration_field = 3;
    google.protobuf.Empty empty_field = 4;
    google.protobuf.FieldMask field_mask_field = 5;
    google.protobuf.SourceContext source_context_field = 6;
    google.protobuf.Struct struct_field = 7;
    google.protobuf.Timestamp timestamp_field = 8;
    google.protobuf.Type type_field = 9;
    google.protobuf.DoubleValue double_field = 10;
    google.protobuf.FloatValue float_field = 11;
    google.protobuf.Int64Value int64_field = 12;
    google.protobuf.UInt64Value uint64_field = 13;
    google.protobuf.Int32Value int32_field = 14;
    google.protobuf.UInt32Value uint32_field = 15;
    google.protobuf.BoolValue bool_field = 16;
    google.protobuf.StringValue string_field = 17;
    google.protobuf.BytesValue bytes_field = 18;
    google.protobuf.Value value_field = 19;
}

Common Types

message CommonTypes {
    google.type.Interval interval_field = 1;
    google.type.Date date_field = 2;
    google.type.DayOfWeek day_of_week_field = 3;
    google.type.TimeOfDay time_of_day_field = 4;
    google.type.LatLng lat_lng_field = 5;
    google.type.Money money_field = 6;
    google.type.PostalAddress postal_address_field = 7;
    google.type.Color color_field = 8;
    google.type.Month month_field = 9;
    google.type.CalendarPeriod calendar_period_field = 10;
    google.type.Decimal decimal_field = 11;
    google.type.Expr expr_field = 12;
    google.type.Fraction fraction_field = 13;
    google.type.LocalizedText localized_text_field = 14;
    google.type.PhoneNumber phone_number_field = 15;
}

Optional

message OptionalExample {
    int32 required_field = 1; // required (if not provided we get default
value: 0) Go type: int32
    optional int32 optional_field = 2; // optional (if not provided we get
null) Go type: *int32
}

Перечисления

enum Corpus {
    CORPUS_UNSPECIFIED = 0;
    CORPUS_UNIVERSAL = 1;
    CORPUS_WEB = 2;
    CORPUS_IMAGES = 3;
    CORPUS_LOCAL = 4;
    CORPUS_NEWS = 5;
    CORPUS_PRODUCTS = 6;
    CORPUS_VIDEO = 7;
}

Deprecated Fields

message DeprecatedExample {
    // Use new_field instead old_field
    int32 old_field = 1 [deprecated = true];
    int64 new_field = 2;
}

type DeprecatedExample struct {
    state protoimpl.MessageState
    sizeCache protoimpl.SizeCache
    unknownFields protoimpl.UnknownFields
    // Use new_field instead old_field
    //
    // Deprecated: Do not use.
    OldField int32
`protobuf:"varint,1,opt,name=old_field,json=oldField,proto3"
json:"old_field,omitempty"`
    NewField int64
`protobuf:"varint,2,opt,name=new_field,json=newField,proto3"
json:"new_field,omitempty"`
}

Reserved Fields

enum Foo {
    reserved 2, 15, 9 to 11, 40 to max;
    reserved "FOO", "BAR";
    FOO = 2;
}

api/examples/enum.proto: Enum value "FOO" uses reserved number 2.
api/examples/enum.proto:22:5: Enum value "FOO" is reserved.

Вложенные сообщения и массивы

message SearchResponse {
    message Result {
        string url = 1;
        string title = 2;
        repeated string snippets = 3;
    }
    repeated Result result = 1;
}

Oneof

message Stock {
    // Stock-specific data
}
message Currency {
    // Currency-specific data
}
message ChangeNotification {
    int32 id = 1;
    oneof instrument {
    Stock stock = 2;
    Currency currency = 3;
    }
}

Map

message GetProjectResponse {
    message Project {
    // data
    }
    
    map<string, Project> projects = 1;
}

Сериализация

Protobuf и gRPC

// Один запрос, один ответ:
rpc Send(Message) returns (Result);

// Один запрос, поток ответов:
rpc Send(Message) returns (stream Result);

// Поток запросов, один ответ:
rpc Send(stream Message) returns (Result);

// Поток запросов, поток ответов:
rpc Send(stream Message) returns (stream Result);

gRPC workflow

Прямая и обратная совместимость в protobuf

Protobuf на практике

syntax = "proto3";

package user.v1;

option go_package = "example.com/project/gen/user/v1;userv1";

service UserService {
    rpc GetUser(GetUserRequest) returns (GetUserResponse);
}

message GetUserRequest {
    string id = 1;
}

message GetUserResponse {
    string id = 1;
    string name = 2;
}

go install google.golang.org/protobuf/cmd/protoc-gen-go@latest

go install google.golang.org/grpc/cmd/protoc-gen-go-grpc@latest

protoc \
 -I {{.PROTO_DIR}} \
 --go_out={{.GEN_DIR}} \
 --go_opt=paths=source_relative \
 --go-grpc_out={{.GEN_DIR}} \
 --go-grpc_opt=paths=source_relative \
 {{.PROTO_DIR}}/user/v1/user.proto

type GetUserRequest struct {
    state protoimpl.MessageState
    sizeCache protoimpl.SizeCache
    unknownFields protoimpl.UnknownFields
 
    Id string `protobuf:"bytes,1,opt,name=id,proto3" json:"id,omitempty"`
}

type GetUserResponse struct {
    state protoimpl.MessageState
    sizeCache protoimpl.SizeCache
    unknownFields protoimpl.UnknownFields
 
    Id string `protobuf:"bytes,1,opt,name=id,proto3" json:"id,omitempty"`
    Name string `protobuf:"bytes,2,opt,name=name,proto3"
json:"name,omitempty"`
}

var file_user_v1_user_proto_rawDesc = []byte{
 0x0a, 0x12, 0x75, 0x73, 0x65, 0x72, 0x2f, 0x76, 0x31, 0x2f, 0x75, 0x73,
0x65, 0x72, 0x2e, 0x70,
 0x72, 0x6f, 0x74, 0x6f, 0x12, 0x07, 0x75, 0x73, 0x65, 0x72, 0x2e, 0x76,
0x31, 0x22, 0x20, 0x0a,
 0x0e, 0x47, 0x65, 0x74, 0x55, 0x73, 0x65, 0x72, 0x52, 0x65, 0x71, 0x75,
0x65, 0x73, 0x74, 0x12,
...
}

Пишем полноценное приложение

Секреты Concurrency: от процессора до атомиков в Go

Дополнительные материалы к видео

Устройство операционных систем: от ядра и системных вызовов до Go

Дополнительные материалы к видео

Создатели Go ОШИБЛИСЬ, создавая ЭТОТ CONCURRENCY примитив

ТОП-1 Golang Concurrency Pattern

Эта задача валит всех на собеседованиях по Go Concurrency в BigTech

Дополнительные материалы к видео

Почему Go-ассемблер и векторизация могут быть полезны: идея для ускорения

Мотивация

func SliceContainsV0(s []uint8, target uint8) bool {

return slices.Contains(s, target)

}

func SliceContainsV1(s []uint8, target uint8) bool

С помощью чего ускоряем

/Users/igorwalther/Goland Projects/golangconf-2024
func main() {
    println("Hello, GolangConf-2024!")
}

. BLOCK tc(1) # main.go:4:9
. BLOCK-List
. . CALLFUNC Walked tc(1) # main.go:4:9
. . CALLFUNC-Fun
. . . NAME-runtime.printlock Class:PFUNC Offset:0 Used F
. . CALLFUNC Walked tc(1) # main.go:4:9
. . CALLFUNC-Fun
. . . NAME-runtime.printstring Class:PFUNC Offset:0 Used
. . CALLFUNC-Args
. . . LITERAL-"Hello, GolangConf-2024!\n" string tc(1) #
. . CALLFUNC Walked tc(1) # main.go:4:9
. . CALLFUNC-Fun
. . . NAME-runtime.printunlock Class:PFUNC Offset: 0 Used

b1:
  v2 (?) = SB <uintptr> : SB
  v1 (?) = InitMem <mem>
  v4 (+4) = CALLstatic <mem>
      {AuxCall{runtime.printlock}} v1
  v5 (4) SelectN <mem> [0] v4
  v14 (4) = MOVDaddr <*uint8> {go:string."Hello, GolangConf-2024!\n"} v2 : R0
  v13 (4) MOVD const <int> [24] : R1
  v7 (4) CALLstatic <mem>
      {AuxCall{runtime.printstring}} [16] v14 v13 v5 :
      <>
  v8 (4) = SelectN <mem> [0] v7
  v9 (4) = CALLstatic <mem>
      {AuxCall{runtime.printunlock}} v8
  v10 (4) = SelectN <mem> [0] v9
  v11 (+5)= MakeResult <mem> v10
Ret v11 (5)

      # /Users/igorwalther/GolandProjects/golangconf-2024/main.go
      00000 (3) TEXT main.main(SB), ABIInternal
      00001 (3) FUNCDATA $0, gclocals·g2BeySu+wFnoycgXfElmcg==(SB)
      00002 (3) FUNCDATA $1, gclocals·g2BeySu+wFnoycgXfElmcg==(SB)
v4    00003 (+4) PCDATA $1, $0
v4    00004 (+4) CALL runtime.printlock(SB)
v14   00005 (4) MOVD $go:string."Hello, GolangConf-2024!\n" (SB), R0
v13   00006 (4) MOVD $24, R1
v7    00007 (4) CALL runtime.printstring (SB)
v9    00008 (4) CALL runtime.printunlock (SB)
b1    00009 (5) RET
      00010 (?) END

В Go нет intrinsic SIMD-функций

«We’re looking at how to support the latest vector and matrix hardware instructions»

© The Go Blog: Austin Clements

Идея оптимизации

$go:string.”Go ассемблер?”(SB)

«Also, perhaps most important: it is how we talk about the machine. Knowing assembly, even a little, means understanding computers better»

© GopherCon 2016: Rob Pike

SIMD-инструкции

Что понадобится

Дополнительные материалы

Векторизация и SIMD в Go: ускорение поиска и сравнения в массивах

Векторное сложение []uint8

type SliceHeader struct {
    Data uintptr
    Len int
    Cap int
}

type SliceHeader struct {
    Data uintptr
    Len int
    Cap int
}

MOVD data+0(FP), R0
MOVD data+8(FP), R1

#include "textflag.h"

// func vectorAdditionV1(first, second, dst []uint8)
TEXT ·vectorAdditionV1(SB), NOSPLIT, $0
   LDP first_base+0(FP), (R0, R1)
   LDP second_base+24(FP), (R2, R3)
   LDP dst_base+48(FP), (R4, R5)

   MOVD $0, R7

loop:
   CMP R5, R7
   BGE done

Примеры использования

Slice contains

// 16-bit alignment for example
func Contains(s []uint8, target uint8) bool {
   for _, e := range s {
      if e == target {
         return true
      }
   }

   return false
}

// 16-bit alignment to simplify
func ContainsSIMD(s []uint8, target uint8) bool {
   for i := 0; i < len(s); i += 16 {
      if compare(
    s[i:i+16],
    Duplicate(target, 16),
   ) != 0 {
          return true
       }
    }

    return false
}

func SliceContainsV0(s []uint8, target uint8) bool {
   return slices.Contains(s, target)
}

func SliceContainsV1(s []uint8, target uint8) bool

//func SliceContainsV1(s []uint8, target uint8) bool
TEXT ·SliceContainsV1(SB), NOSPLIT, $0
   LDP slice_base+0(FP), (R0, R1)
   MOVB target+24(FP), R2
   VDUP R2, V1.B16

loop:
   CBZ R1, no
   VLD1.P 16(R0), [V2.B16]
   VCMEQ V1.B16, V2.B16, V3.B16
   VADDV V3.B16, V2
   VMOV V2.H[0], R4

go:string.”Выводы” SRODATA dupok size=12

Дополнительные материалы

Векторизация на Go: CGo, транзакции, компиляторы, поддержка, байтовые инструкции

CGo

bool slice_contains(const uint8_t *slice, size_t size, uint8_t value) {
   uint8x16_t val_vec = vdupq_n_u8(value);

   for (size_t i = 0; i < size; i += 16) {
       uint8x16_t data_vec = vld1q_u8(&slice[i]);
       uint8x16_t result_vec = vceqq_u8(data_vec, val_vec);
       uint16_t result = vaddvq_u8(result_vec);

       if (result) {
           return true;
       }

    }

    return false;

}

import "C"

import (
   "unsafe"
)

func SliceContains(data []uint8, target uint8) bool {
   return bool(C.slice_contains((*C.uint8_t)(unsafe.SliceData(data)),
C.size_t(len(data)), C.uint8_t(target)))
}

go test -bench=. -benchmem -cpu=1
goos: darwin
goarch: arm64
pkg: asm/simd/slice_contains
cpu: Apple M3 Pro
BenchmarkSliceContains/SliceContainsV1_(SIMD)               63256          18263 ns/op
BenchmarkSliceContains/SliceContainsVO                       4813         252514 ns/op
BenchmarkSliceContains/SliceContainsCgo                     56691          21913 ns/op 
PASS
ok      asm/simd/slice_contains 4.359s

Другие способы

Где ещё может пригодится ассемблер

Директивы для голых инструкций

• WORD
• BYTE

gcc main.c
otool -tvj a.out

0000000100003f24          3dc02fe1         ldr q1, [sp, #0xb0]
0000000100003f28          4e21d400         fadd.4s v0, v0, v1
0000000100003f2c          3d802be0         str q0, [sp, #0xa0]
0000000100003f30          3dc02be0         Idr q0, [sp, #0xa0]

ENDIAN!

#include "textflag.h"

// func vectorFloatAdditionV1(first, second, dst []float32)
TEXT ·vectorFloatAdditionV1(SB), NOSPLIT, $0
   LDP first_base+0(FP), (R0, R1)
   LDP second_base+24(FP), (R2, R3)
   LDP dst_base+48(FP), (R4, R5)

   MOVD $0, R7

loop:
     CMP R5, R7
  BGE done

   VLD1 (R0), [V0.S4]
   VLD1 (R2), [V1.S4]

   WORD $0x4e21d400 // fadd.4s v0, v0, v1

   VST1 [V0.S4], (R4)

   ADD $4, R7
   ADD $16, R4
   ADD $16, R0
   ADD $16, R2

   B loop

done:
   RET

Выводы

Дополнительные материалы

Как проходить собеседования в IT: полный гайд от HR-скрининга до офера

Дополнительные материалы к видео