division___bell (division___bell) wrote,
division___bell
division___bell

яр! ярости псто!

Да что ж это такое то, а. Буквально вчера мне пришла в мозг эта идея а оказывается, её уже придумали во-первых и вовсю тестят во-вторых:


Авторы новой работы предложили способ борьбы с катастрофической забывчивостью, который заключается в том, что наиболее важные веса в нейронной сети при выполнении некой задачи А искусственно делают более устойчивыми к изменению в процессе обучения на задаче Б. Технически это осуществляется следующим образом: каждому весу в нейронной сети (вес определяет, насколько данный нейрон значим для окончательного ответа нейросети) также присваивается параметр F, который определеяет его значимость только в рамках данной задачи (математически F представляет собой диагональный элемент матрицы информации Фишера). Чем больше F для конкретного нейрона, тем сложнее будет изменить его вес при обучении новой задаче, таким образом нейросеть «запоминает» определенные навыки, если они были важны для выполнения предыдущего задания.


Нет ну все, буквально ведь все уже украдено до меня! Идеи тырят прям из головы: не успеешь переспать с мыслью( нежно любимой, обласканной), как на утро просыпаешься, открываешь инет, глядь- увели девку!
Subscribe

  • День Рождения Рыжего Священника

    " width="560" height="315" frameborder="0" allowfullscreen data-link=" https://youtube.com/watch?v=Yu6Hr9kd-U0" frameborder="0"…

  • (no subject)

    Тот самый редкий случай, когда я против Маска. Точнее, я "за" Маска( все же пример романтической личности, которая ломает об колено устоявшиеся…

  • (no subject)

    Интересно, как меняется мир буквально в течении жизни, на глазах Я помню эту великую тройку: Рональд Рейган (на мой взгляд, один из величайших…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments