Расширенное руководство по NumPy — ускорение графического процессора
Расширенное руководство по NumPy — ускорение графического процессора

Расширенное руководство по Python NumPy: ускорение графического процессора

Использование ускорения графического процессора — распространенный подход к оптимизации при обработке больших наборов данных или выполнении сложных вычислений. NumPy предоставляет инструменты и методы для простого выполнения вычислений на графических процессорах. В этом блоге мы подробно углубимся в ускорение графического процессора в NumPy и продемонстрируем, как применять эти методы на практических примерах.

1. Использование библиотеки CuPy

CuPy — это NumPy-совместимая библиотека массивов графических процессоров, которая позволяет выполнять операции в стиле NumPy на графическом процессоре. Сначала вам нужно установить CuPy:

Язык кода:javascript
копировать
pip install cupy

Затем вы можете использовать CuPy вместо массивов NumPy и выполнять вычисления на графическом процессоре.

Язык кода:javascript
копировать
import cupy as cp
import numpy as np

# создавать NumPy множество
arr_np = np.random.rand(1000000)

# Воля NumPy множество Преобразовать в CuPy множество
arr_gpu = cp.asarray(arr_np)

# существовать GPU выполнить навычислить
result_gpu = cp.sin(arr_gpu)

# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np = cp.asnumpy(result_gpu)

# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_np), result_np)
2. Используйте Numba для ускорения вычислений на графическом процессоре.

Numba — это JIT-компилятор (точно в срок), который ускоряет выполнение кода Python. Используя декоратор cuda.jit Numba, обычные функции Python можно скомпилировать в код, выполняющийся на графическом процессоре.

Язык кода:javascript
копировать
from numba import cuda

# использовать Numba ускоряться GPU вычислить
@cuda.jit
def numba_gpu_function(arr_in, arr_out):
    i = cuda.grid(1)
    if i < arr_in.size:
        arr_out[i] = np.sin(arr_in[i])

# Подготовьте данные
arr_np = np.random.rand(1000000)
arr_gpu = cp.asarray(arr_np)
result_gpu_numba = cp.empty_like(arr_gpu)

# существовать GPU выполнить навычислить
numba_gpu_function[32, 32](arr_gpu, result_gpu_numba)

# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np_numba = cp.asnumpy(result_gpu_numba)

# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_np), result_np_numba)
3. Используйте PyTorch или TensorFlow.

В дополнение к CuPy и Numba вы также можете использовать платформу глубокого обучения PyTorch или TensorFlow, чтобы воспользоваться преимуществами вычислений на графическом процессоре. Эти две платформы предоставляют тензорные объекты и поддерживают ускорение графического процессора.

Язык кода:javascript
копировать
import torch

# создавать PyTorch Тензор
arr_torch = torch.rand(1000000)

# Воля Тензорпереехать в GPU начальство
arr_torch_gpu = arr_torch.cuda()

# существовать GPU выполнить навычислить
result_torch_gpu = torch.sin(arr_torch_gpu)

# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np_torch = result_torch_gpu.cpu().numpy()

# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_torch.numpy()), result_np_torch)
4. Использование PyCUDA

PyCUDA — это библиотека Python, которая позволяет выполнять код CUDA (унифицированная архитектура вычислительных устройств) на графических процессорах. Сначала вам необходимо установить CUDA Toolkit и установить PyCUDA:

Язык кода:javascript
копировать
pip install pycuda

Затем функции ядра CUDA можно записать и выполнить на графическом процессоре.

Язык кода:javascript
копировать
импортировать pycuda.driver как cuda
импортировать pycuda.autoinit
из pycuda.compiler импортировать SourceModule

# Функция CUDA
мод = SourceModule("""
    __global__ void gpu_function(float *arr_in, float *arr_out) {
        int i = threadIdx.x + blockIdx.x * blockDim.x;
        arr_out[i] = sin(arr_in[i]);
    }
""")

# Подготовьте данные
arr_np = np.random.rand(1000000).astype(np.float32)
arr_gpu = cuda.mem_alloc(arr_np.nbytes)
result_gpu_pycuda = cuda.mem_alloc(arr_np.nbytes)

# Воля передача данных на GPU
cuda.memcpy_htod(arr_gpu, arr_np)

# осуществлять CUDA 核функция
func = mod.get_function("gpu_function")
func(arr_gpu, result_gpu_pycuda, block=(32, 1, 1), grid=(arr_np.size // 32, 1))

# Воля получается из GPU Преобразовать обратно в NumPy множество
result_np_pycuda = np.empty_like(arr_np)
cuda.memcpy_dtoh(result_np_pycuda, result_gpu_pycuda)

# Проверьте согласованность результатов
assert np.allclose(np.sin(arr_np), result_np_pycuda)
5. Резюме

Комбинируя вышеуказанные методы, вы можете реализовать ускорение графического процессора в NumPy и повысить эффективность выполнения вашего кода. Выбор правильных инструментов и методов зависит от конкретного сценария применения и вычислительных задач. Я надеюсь, что этот блог поможет вам лучше понять и использовать технологию ускорения графического процессора в NumPy.

boy illustration
Неразрушающее увеличение изображений одним щелчком мыши, чтобы сделать их более четкими артефактами искусственного интеллекта, включая руководства по установке и использованию.
boy illustration
Копикодер: этот инструмент отлично работает с Cursor, Bolt и V0! Предоставьте более качественные подсказки для разработки интерфейса (создание навигационного веб-сайта с использованием искусственного интеллекта).
boy illustration
Новый бесплатный RooCline превосходит Cline v3.1? ! Быстрее, умнее и лучше вилка Cline! (Независимое программирование AI, порог 0)
boy illustration
Разработав более 10 проектов с помощью Cursor, я собрал 10 примеров и 60 подсказок.
boy illustration
Я потратил 72 часа на изучение курсорных агентов, и вот неоспоримые факты, которыми я должен поделиться!
boy illustration
Идеальная интеграция Cursor и DeepSeek API
boy illustration
DeepSeek V3 снижает затраты на обучение больших моделей
boy illustration
Артефакт, увеличивающий количество очков: на основе улучшения характеристик препятствия малым целям Yolov8 (SEAM, MultiSEAM).
boy illustration
DeepSeek V3 раскручивался уже три дня. Сегодня я попробовал самопровозглашенную модель «ChatGPT».
boy illustration
Open Devin — инженер-программист искусственного интеллекта с открытым исходным кодом, который меньше программирует и больше создает.
boy illustration
Эксклюзивное оригинальное улучшение YOLOv8: собственная разработка SPPF | SPPF сочетается с воспринимаемой большой сверткой ядра UniRepLK, а свертка с большим ядром + без расширения улучшает восприимчивое поле
boy illustration
Популярное и подробное объяснение DeepSeek-V3: от его появления до преимуществ и сравнения с GPT-4o.
boy illustration
9 основных словесных инструкций по доработке академических работ с помощью ChatGPT, эффективных и практичных, которые стоит собрать
boy illustration
Вызовите deepseek в vscode для реализации программирования с помощью искусственного интеллекта.
boy illustration
Познакомьтесь с принципами сверточных нейронных сетей (CNN) в одной статье (суперподробно)
boy illustration
50,3 тыс. звезд! Immich: автономное решение для резервного копирования фотографий и видео, которое экономит деньги и избавляет от беспокойства.
boy illustration
Cloud Native|Практика: установка Dashbaord для K8s, графика неплохая
boy illustration
Краткий обзор статьи — использование синтетических данных при обучении больших моделей и оптимизации производительности
boy illustration
MiniPerplx: новая поисковая система искусственного интеллекта с открытым исходным кодом, спонсируемая xAI и Vercel.
boy illustration
Конструкция сервиса Synology Drive сочетает проникновение в интрасеть и синхронизацию папок заметок Obsidian в облаке.
boy illustration
Центр конфигурации————Накос
boy illustration
Начинаем с нуля при разработке в облаке Copilot: начать разработку с минимальным использованием кода стало проще
boy illustration
[Серия Docker] Docker создает мультиплатформенные образы: практика архитектуры Arm64
boy illustration
Обновление новых возможностей coze | Я использовал coze для создания апплета помощника по исправлению домашних заданий по математике
boy illustration
Советы по развертыванию Nginx: практическое создание статических веб-сайтов на облачных серверах
boy illustration
Feiniu fnos использует Docker для развертывания личного блокнота Notepad
boy illustration
Сверточная нейронная сеть VGG реализует классификацию изображений Cifar10 — практический опыт Pytorch
boy illustration
Начало работы с EdgeonePages — новым недорогим решением для хостинга веб-сайтов
boy illustration
[Зона легкого облачного игрового сервера] Управление игровыми архивами
boy illustration
Развертывание SpringCloud-проекта на базе Docker и Docker-Compose