division___bell (division___bell) wrote,
division___bell
division___bell

Categories:

яр! ярости псто!

Да что ж это такое то, а. Буквально вчера мне пришла в мозг эта идея а оказывается, её уже придумали во-первых и вовсю тестят во-вторых:


Авторы новой работы предложили способ борьбы с катастрофической забывчивостью, который заключается в том, что наиболее важные веса в нейронной сети при выполнении некой задачи А искусственно делают более устойчивыми к изменению в процессе обучения на задаче Б. Технически это осуществляется следующим образом: каждому весу в нейронной сети (вес определяет, насколько данный нейрон значим для окончательного ответа нейросети) также присваивается параметр F, который определеяет его значимость только в рамках данной задачи (математически F представляет собой диагональный элемент матрицы информации Фишера). Чем больше F для конкретного нейрона, тем сложнее будет изменить его вес при обучении новой задаче, таким образом нейросеть «запоминает» определенные навыки, если они были важны для выполнения предыдущего задания.


Нет ну все, буквально ведь все уже украдено до меня! Идеи тырят прям из головы: не успеешь переспать с мыслью( нежно любимой, обласканной), как на утро просыпаешься, открываешь инет, глядь- увели девку!
Subscribe

  • (no subject)

    Что, черт возьми, мешает компаниям прокатчикам установить на электросамокаты звонки ? Подростки на бесшумных самокатах это какое-то городское…

  • (no subject)

    Мы тут сделали будку для нашего бездомного уличного кошачьего прайда. В зиму ставили миски с едой в условленном с котами месте, и все прекрасно…

  • (no subject)

    Интересно, как скоро появится индустрия персональных ассистентов? Совершенно тривиальная идея: продавать искусственный интеллект в качестве друга. Ну…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments