Функции активации, критерии качества работы НС | #6 нейросети на Python

Рекомендации по выбору функций активации для сетей с малым и большим числом слоев, а также для решения задач линейной регрессии и классификации. Рассматриваются функции: гиперболический тангенс, сигмоида, ReLu, softmax, linear.
Рекомендации по выбору критериев качества при обучении нейронных сетей: хиндж (hinge), бинарная кросс-энтропия (binary crossentropy), категориальная кросс-энтропия (categorical crossentropy), logcosh, средний квадрат ошибок (mean squared error), средний модуль ошибок (mean absolute error), средний абсолютный процент ошибок (mean absolute percentage error), средний квадрат логарифмических ошибок (mean squared logarithmic error).

Телеграм-канал: https://t.me/machine_learning_selfedu
Инфо-сайт: http://proproprogs.ru

( ! ) Warning: Invalid argument supplied for foreach() in /home/domains/malitikov.ru/public_html/wp-content/themes/malitikov/single.php on line 44
Call Stack
#	Time	Memory	Function	Location
1	0.0000	350344	{main}( )	.../index.php:0
2	0.0000	350624	require( '/home/domains/malitikov.ru/public_html/wp-blog-header.php )	.../index.php:17
3	0.1397	8476048	require_once( '/home/domains/malitikov.ru/public_html/wp-includes/template-loader.php )	.../wp-blog-header.php:19
4	0.1414	8500736	include( '/home/domains/malitikov.ru/public_html/wp-content/themes/malitikov/single.php )	.../template-loader.php:106

Мы рекомендуем

( ! ) Fatal error: Allowed memory size of 536870912 bytes exhausted (tried to allocate 4194312 bytes) in /home/domains/malitikov.ru/public_html/wp-includes/class-wpdb.php on line 3114
Call Stack
#	Time	Memory	Function	Location
1	0.0000	350344	{main}( )	.../index.php:0
2	0.0000	350624	require( '/home/domains/malitikov.ru/public_html/wp-blog-header.php )	.../index.php:17
3	0.1397	8476048	require_once( '/home/domains/malitikov.ru/public_html/wp-includes/template-loader.php )	.../wp-blog-header.php:19
4	0.1414	8500736	include( '/home/domains/malitikov.ru/public_html/wp-content/themes/malitikov/single.php )	.../template-loader.php:106
5	0.3098	22708344	WP_Query->__construct( $query = ['post_type' => 'post', 'post_status' => 'publish', 'fields' => 'ids', 'posts_per_page' => -1, 'no_found_rows' => TRUE, 'orderby' => 'none'] )	.../single.php:65
6	0.3098	22708344	WP_Query->query( $query = ['post_type' => 'post', 'post_status' => 'publish', 'fields' => 'ids', 'posts_per_page' => -1, 'no_found_rows' => TRUE, 'orderby' => 'none'] )	.../class-wp-query.php:4081
7	0.3099	22708344	WP_Query->get_posts( )	.../class-wp-query.php:3949
8	0.3103	22720208	wpdb->get_col( $query = 'SELECT wp_posts.ID\n\t\t\t\t\t FROM wp_posts \n\t\t\t\t\t WHERE 1=1 AND wp_posts.post_type = \'post\' AND ((wp_posts.post_status = \'publish\'))\n\t\t\t\t\t \n\t\t\t\t\t \n\t\t\t\t\t ', $x = ??? )	.../class-wp-query.php:3300