division___bell (division___bell) wrote,
division___bell
division___bell

яр! ярости псто!

Да что ж это такое то, а. Буквально вчера мне пришла в мозг эта идея а оказывается, её уже придумали во-первых и вовсю тестят во-вторых:


Авторы новой работы предложили способ борьбы с катастрофической забывчивостью, который заключается в том, что наиболее важные веса в нейронной сети при выполнении некой задачи А искусственно делают более устойчивыми к изменению в процессе обучения на задаче Б. Технически это осуществляется следующим образом: каждому весу в нейронной сети (вес определяет, насколько данный нейрон значим для окончательного ответа нейросети) также присваивается параметр F, который определеяет его значимость только в рамках данной задачи (математически F представляет собой диагональный элемент матрицы информации Фишера). Чем больше F для конкретного нейрона, тем сложнее будет изменить его вес при обучении новой задаче, таким образом нейросеть «запоминает» определенные навыки, если они были важны для выполнения предыдущего задания.


Нет ну все, буквально ведь все уже украдено до меня! Идеи тырят прям из головы: не успеешь переспать с мыслью( нежно любимой, обласканной), как на утро просыпаешься, открываешь инет, глядь- увели девку!
Subscribe

  • (no subject)

    Посейдон услышал мои мольбы. Единственная компания, которая догадалась, наконец, сделать раздельную гидру для бассейна а не погружений. Сколько же…

  • Что-то пошло не так!

    Алексей Федяров Говорю с опером. Ругается. - Собянин (мат), устроил (мат). Я - привитый, не могу куар этот (мат) получить. Я же опер. Мне нельзя…

  • Трещат скрепы

    Судя по царящей в официальных российских каналах истерии, у России есть два врага: ЛГБТ и интернет Странно, как это они ещё не догадались объявить,…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments