#самопредставление

Пожалуйста, дайте краткое представление о себе.

Ни Хуэй:Всем привет,Я Ни Хуэй,github ID Нихуи — эксперт-исследователь в Tencent Youtu Lab и автор библиотеки рассуждений нейронных сетей с открытым исходным кодом ncnn.

ncnn — это легкая, эффективная и кроссплатформенная библиотека вывода нейронных сетей. Поскольку исходный код открыт, разработчики приветствовали его, и он показал хорошие результаты во многих практических сценариях применения. Большое спасибо за поддержку и вклад сообщества. Я буду продолжать усердно работать, чтобы предоставлять вам лучшие продукты с открытым исходным кодом.

Как вы впервые познакомились с открытым исходным кодом? Есть ли у вас какие-нибудь интересные истории, которыми стоит поделиться?

Ни Хуэй:мой первый контакт Открытый исходный код В 2006 году все еще использовали операционную систему XP, и компьютерные вирусы часто вызывали сбои и зависания. Я узнал, что системы Linux по своей природе невосприимчивы к вирусам, поэтому попробовал MagicLinux и с тех пор сотрудничаю с Открытым. исходный Шестеренки судьбы Кода начинают вращаться...

Какова самая большая проблема, с которой вы столкнулись на пути к открытому исходному коду? Какими впечатляющими историями вы можете поделиться со всеми?

Ни Хуэй:поддерживать Открытый исходный Проект кода требует от меня проверки кода, Архитектурный Тратьте много времени на дизайн, решение и обнаружение проблем.,Сообщество постоянно предъявляет новые требования.,Это создает огромную проблему для поддержания и развития проекта.

Оптимизировав проект архитектуры, уменьшив инкапсуляцию и создав полноценную полноплатформенную CI и тестирование покрытия кода, ncnn заранее обнаружила большое количество потенциальных ошибок, сэкономила много времени и стала более уверенной при рефакторинге или добавлении новых функций.

#Об участии в проекте Tencent Rhino Bird

Не могли бы вы вкратце представить порядок реализации вашего проекта руководства в этом году и каковы ваши ожидания от результатов проекта?

Ни Хуэй:В этом году естьncnnоператороптимизация,преобразование оператора pnnx,математическая функция simplemath,LLMалгоритмразвертыватьждать。оператороптимизацияа конвертации — это рутинные задачи,Основными целями являются ускорение вычислений и совместимость моделей.

Задача математической библиотеки Simplemath требует реализации таких функций, как exp log sin, используемых ncnn, что еще больше устраняет зависимость от libm и повышает переносимость компиляции некоторых встроенных платформ.

В этом году генеративный искусственный интеллект по-прежнему актуален, а развертывание больших языковых моделей LLM является сегодня одной из болевых точек в отрасли, поэтому родился проект развертывания LLM-ncnn. Текущий прогресс проекта является оптимистичным.

Какие этапы прошел проект на сегодняшний день? Какова текущая стадия и статус?

Ни Хуэй:2017лето,ncnnсуществоватьgithubначальство Открытый исходный код от ARM для платформы мобильных телефонов Оптимизация ЦП, которая поддерживалась участниками сообщества, теперь поддерживает x86. mips loongarch risc-v и другие архитектуры ЦП, а также через Vulkan APIПоддержка всех основныхPCи мобильный телефонGPUускоряться。существовать Модель Поддерживать,pnnx — pytorch Модельоптимизация и инструменты преобразования,Эффективное решение onnx, легко демонтируемое,Различные проблемы, такие как отсутствие поддержки модели большого размера и т. д.,Эффективно улучшить совместимость преобразования моделей.

Практическая фаза проекта находится в стадии реализации. Насколько успешно реализуется проект? Сталкивались ли студенты с трудностями во время практики? Можете ли вы поделиться своим опытом наставничества?

Ни Хуэй:Задания составлены с разным уровнем сложности.,Особенно для простых задач,Предоставлены очень подробные справочные коды и информация.,чтобы больше студентов могли учиться через,Достигайте целей.

Что касается сложных задач LLM-ncnn, поскольку в настоящее время он является пробелом в отрасли и не имеет технической информации, у студентов высокий процент неудач в процессе преобразования модели. После того, как студенты регулярно общаются со своими преподавателями и синхронизируют результаты, преподаватели. одновременно улучшит инструменты преобразования для решения различных проблем при преобразовании. Студенты могут не только повысить результативность проектной практики, но также обнаружить и проверить проблемы в самой NCNN и помочь улучшить качество проекта.

Программа обучения талантов с открытым исходным кодом Tencent Rhinobird проводится уже в третий раз, и в ней участвует все больше и больше студентов. Какие предложения у вас есть для студентов, которые любят открытый исходный код?

Ни Хуэй:Я надеюсь, что больше студентов смогутначальстворука,Учитесь, делая. если есть проблема,Общайтесь в более технических группах,Научитесь задавать вопросы. если стесняешься,Дайвинг в группе, наблюдая за тем, как друзья болтают о технологиях,Будут и выгоды.

#aboutopensource

В последние годы в Китае появилось много программного обеспечения с открытым исходным кодом. Что вы думаете о текущей ситуации с открытым исходным кодом? В каком направлении, по вашему мнению, будет развиваться нынешняя отечественная тенденция развития открытого исходного кода?

Ни Хуэй:Все больше и больше компаний и частных лиц осознают Открытый исходный код Значение, участие Открытый исходный код,исуществовать Открытый исходный Создайте бизнес-форму поверх кода. Поскольку технологии продолжают развиваться, следующий Открытый исходный код Экология станет более процветающей, особенно в новых областях, таких как искусственный интеллект, Открытый исходный код будет способствовать дальнейшему развитию и популяризации технологий.

Учитывая китайский рынок открытого исходного кода, есть ли у вас какие-либо хорошие предложения или сообщения, которыми вы могли бы поделиться со всеми?

Ни Хуэй:Проектно-ориентированныйподдерживатьи строить хорошие сообщества,Будьте смелыми в технологических инновациях,Привнесение Открытого исходного кода в реальную ценность.