Рано утром кто-то из группы задал вопрос:

Я думаю, что это очень хороший вопрос. Вы можете расширить этот вопрос до:

Могу ли я вставить RTX3080 и RTX4090 в свою машину?

или,

Могу ли я вставить карту RTX и карту Tesla в свою машину?

Так смогут ли A800 и H800 сформировать суперкоманду по вычислительной мощности? Этот вопрос необходимо рассматривать с двух точек зрения:

Во-первых, давайте посмотрим на возможности их соединения на одной машине.

Основное внимание в карте A800 уделяется ее возможностям межсетевого взаимодействия, которые позволяют обеспечить P2P-доступ и общую видеопамять. Две карты A800 можно соединить между собой через P2P-доступ, чтобы заимствовать и получать доступ к видеопамяти друг у друга, без проблем! Однако предыдущие поколения NV-карт не могут осуществлять P2P-доступ между версиями вычислительной мощности, поэтому A800 и H800 не могут быть соединены между собой, теряя возможность взаимодействия друг с другом и агрегирования видеопамяти. Возможность межсетевого взаимодействия является важным преимуществом A800! По этой же причине карта А100 не имеет этой функции (из-за слишком высокой скорости Интернета), поэтому ее замедлили и превратили в карту А800. Поэтому, если смешать A800 и H800, они не смогут соединить между собой и потеряют соответствующие характеристики, что бессмысленно. Так что с этой точки зрения смешивать эти две карты не рекомендуется.

Однако, если они используются вместе на одной машине, выход все же есть. Предположим, по соображениям бюджета вы сначала устанавливаете карту A800, а затем добавляете карту H800 после того, как у вас появится бюджет. Это нормально. Однако при написании программ необходимо обращать внимание на функциональные различия разных вычислительных возможностей. Например, вычислительная мощность A800 составляет всего 8,0, и каждый SM не имеет встроенного механизма передачи данных DMA, такого как TMA, а у H800 он есть! Чтобы обеспечить полную производительность двух карт, необходимо написать и оптимизировать разные версии кода для разных карт. Конечно, если время и бюджет ограничены и вы не сможете воспользоваться новыми функциями новой карты, просто используйте ее как старую карту с более высокой производительностью. Хе-хе, хотя это и небольшая потеря, но это все равно приемлемо.

Что касается ситуаций с несколькими компьютерами, например, если несколько машин образуют стойку, вы все равно можете смешивать карты A800 и H800. В настоящее время это на самом деле небольшой кластер прикладного программного обеспечения высокого уровня. Виртуальное крупномасштабное распределенное прикладное программное обеспечение работает на нескольких машинах одновременно. В этом случае, конечно, использовать его не составит труда. Однако при планировании задач могут возникнуть некоторые проблемы. Потому что новая карта может быть быстрее, а старая в некоторых приложениях может быть относительно медленнее. Поэтому возможность планировать задачи очень важна. Мы должны поддерживать баланс нагрузки между несколькими картами или несколькими компьютерами, чтобы некоторые старые карты не стали узким местом для производительности всей системы. Эй, планирование немного затруднительно.

Обратите внимание, что эта комбинация нескольких машин обычно используется для распределенного обучения глубокому обучению. Это частный случай упомянутого выше приложения! Многие люди покупают его просто для того, чтобы сформировать большую команду из нескольких машин. В этом случае пользователям, возможно, не придется писать код самостоятельно, а просто выбрать мощную распределенную среду обучения. Хе-хе, сможет ли этот фреймворк справиться с аппаратными конфигурациями с разными характеристиками и производительностью одновременно, это зависит от самого фреймворка.

Итак, могут ли A800 и H800 образовать вычислительный кластер? Если они плотно соединены между собой на одной машине, смешивать их не рекомендуется! Но если вы сначала купите A800, а затем у вас будет бюджет на покупку H800, вы сможете его использовать. Вам просто нужно уделить внимание написанию разных версий кода. Для стойки, состоящей из нескольких машин, также возможно сочетание A800 и H800, но вам нужно быть более осторожным с точки зрения планирования задач. Короче говоря, их полезно использовать, но не позволяйте их функциям и производительности пропадать зря! Хе-хе~

Вышеизложенное отражает только наше мнение. Если у вас есть какие-либо дополнительные или иные мнения, оставьте сообщение, и мы обсудим его вместе!