§
    	¼¸jq ã                   ó”  — d dl Z d dlmZ d dlZd dlZd dlZd dlmZ	 d dl
mZmZmZ d dlmZmZ d dlmZ d dlmZ d dlmZ d dlmZ d d	lmZmZmZ d d
lmZ d dlm Z m!Z!m"Z"m#Z# d dl$m%Z% d dl&m'Z' d dl(m)Z)m*Z*m+Z+m,Z, d„ Z- G d„ dej.        ¦  «        Z/ G d„ dej0        ¦  «        Z1 G d„ dej2        ¦  «        Z3d„ Z.d„ Z0d„ Z2d„ Z4d„ Z5d„ Z6 ej7        ddgddgddgddgddgddgg¦  «        Z8g d ¢Z9 ej7        ddgddgd!dgg¦  «        Z:g d"¢Z; ej7        ddgd#d$gd%d&gddgd'd$gd&d&gddgd d(gddgg	¦  «        Z<d)gd!z  d*gd!z  z   d+gd!z  z   Z= ej7        d%d$gddgd dgg¦  «        Z>g d,¢Z? ej7        g d-¢g d-¢g d.¢g d.¢g d/¢g d/¢g d0¢g d0¢g¦  «        Z@ ej7        g d1¢¦  «        ZA ej7        g d2¢g d3¢g d4¢g d5¢g d6¢g d7¢g d8¢g d9¢g¦  «        ZB ej7        g d1¢¦  «        ZC ejD        ¦   «         ZE ej7        ddgddgddgddgddgddgg¦  «        ZFg d ¢ZGg d:¢ZHd¥d<„ZId=„ ZJejK         L                    d>e.e4e0e5g¦  «        ejK         L                    d?g d@¢¦  «        dA„ ¦   «         ¦   «         ZMejK         L                    d>e.e4e0e5g¦  «        dB„ ¦   «         ZNejK         L                    d>e.e4e0e5g¦  «        dC„ ¦   «         ZOejK         L                    d>e.e4e0e5e2e6g¦  «        dD„ ¦   «         ZPejK         L                    d>e.e4e0e5e2e6g¦  «        dE„ ¦   «         ZQejK         L                    d>e.e4e0e5g¦  «        dF„ ¦   «         ZRejK         L                    d>e.e4e0e5g¦  «        dG„ ¦   «         ZSejK         L                    d>e.e4e0e5g¦  «        dH„ ¦   «         ZTejK         L                    d>e.e4e0e5g¦  «        dI„ ¦   «         ZUejK         L                    d>e.e4e0e5g¦  «        dJ„ ¦   «         ZVejK         L                    d>e.e4e0e5g¦  «        dK„ ¦   «         ZWejK         L                    d>e.e4g¦  «        dL„ ¦   «         ZXejK         L                    d>e.e4e2e6g¦  «        dM„ ¦   «         ZYejK         L                    dNe.dO ejZ        dP¦  «        ife4dO ejZ        dP¦  «        ife2dQ ejZ        dP¦  «        ife6dQ ejZ        dP¦  «        ifg¦  «        dR„ ¦   «         Z[ejK         L                    d>e.e4e0e5g¦  «        dS„ ¦   «         Z\ejK         L                    dNe.dOd ife4dOd ife2dQd ife6dQd ifg¦  «        dT„ ¦   «         Z]ejK         L                    d>e.e4g¦  «        dU„ ¦   «         Z^ejK         L                    d>e.e4g¦  «        dV„ ¦   «         Z_ejK         L                    d>e.e4g¦  «        dW„ ¦   «         Z`ejK         L                    d>e.e4g¦  «        dX„ ¦   «         ZaejK         L                    d>e.e4g¦  «        dY„ ¦   «         ZbejK         L                    d>e.e4g¦  «        dZ„ ¦   «         ZcejK         L                    d>e.e4g¦  «        d[„ ¦   «         ZdejK         L                    d>e.e4g¦  «        d\„ ¦   «         ZeejK         L                    d>e.e4g¦  «        d]„ ¦   «         ZfejK         L                    d>e.e4g¦  «        d^„ ¦   «         ZgejK         L                    d>e.e4g¦  «        d_„ ¦   «         ZhejK         L                    d>e.e4g¦  «        d`„ ¦   «         ZiejK         L                    d>e.e4g¦  «        da„ ¦   «         ZjejK         L                    d>e.e4g¦  «        db„ ¦   «         ZkejK         L                    d>e.e4g¦  «        dc„ ¦   «         ZlejK         L                    d>e.e4g¦  «        dd„ ¦   «         ZmejK         L                    d>e.e4g¦  «        de„ ¦   «         ZnejK         L                    d>e.e4g¦  «        df„ ¦   «         ZoejK         L                    d>e.e4e2e6g¦  «        dg„ ¦   «         ZpejK         L                    d>e.e4g¦  «        dh„ ¦   «         ZqejK         L                    d>e.e4g¦  «        di„ ¦   «         ZrejK         L                    d>e.e4g¦  «        dj„ ¦   «         ZsejK         L                    d>e.e4g¦  «        dk„ ¦   «         ZtejK         L                    d>e.e4g¦  «        dl„ ¦   «         ZuejK         L                    d>e.e4g¦  «        ejK         L                    d?g d@¢¦  «        dm„ ¦   «         ¦   «         ZvejK         L                    d>e.e4g¦  «        dn„ ¦   «         ZwejK         L                    d>e.e4g¦  «        do„ ¦   «         ZxejK         L                    d>e.e4g¦  «        dp„ ¦   «         ZyejK         L                    d>e0e5g¦  «        dq„ ¦   «         ZzejK         L                    d>e0e5g¦  «        dr„ ¦   «         Z{ejK         L                    d>e0e5g¦  «        ds„ ¦   «         Z|ejK         L                    d>e0e5g¦  «        dt„ ¦   «         Z}ejK         L                    d>e0e5g¦  «        du„ ¦   «         Z~ejK         L                    d>e0e5g¦  «        dv„ ¦   «         ZejK         L                    d>e0e5g¦  «        dw„ ¦   «         Z€ejK         L                    d>e0e5g¦  «        dx„ ¦   «         Z�ejK         L                    d>e0e5g¦  «        dy„ ¦   «         Z‚ejK         L                    d>e0e5g¦  «        ejK         L                    d?g d@¢¦  «        dz„ ¦   «         ¦   «         ZƒejK         L                    d>e0e5g¦  «        d{„ ¦   «         Z„d¥d|„Z…ejK         L                    d>e2e6g¦  «        d}„ ¦   «         Z†ejK         L                    d>e2e6g¦  «        ejK         L                    d?g d@¢¦  «        d~„ ¦   «         ¦   «         Z‡ejK         L                    d>e2e6g¦  «        d„ ¦   «         ZˆejK         L                    d>e2e6g¦  «        d€„ ¦   «         Z‰ejK         L                    d>e2e6g¦  «        ejK         L                    d?g d@¢¦  «        d�„ ¦   «         ¦   «         ZŠejK         L                    d>e2e6g¦  «        d‚„ ¦   «         Z‹ejK         L                    d>e2e6g¦  «        dƒ„ ¦   «         ZŒejK         L                    d>e2e6g¦  «        d„„ ¦   «         Z�ejK         L                    d>e2e6g¦  «        d…„ ¦   «         ZŽd†„ Z�d‡„ Z�dˆ„ Z‘d‰„ Z’dŠ„ Z“ejK         L                    d‹g dŒ¢¦  «        d�„ ¦   «         Z”dŽ„ Z•d�„ Z–d�„ Z—d‘„ Z˜d’„ Z™d“„ Zšd”„ Z›d•„ Zœd–„ Z�ejK         L                    d—g d˜¢¦  «        d™„ ¦   «         ZžejK         L                    dšej.        ej0        g¦  «        d›„ ¦   «         ZŸdœ„ Z d�„ Z¡ejK         L                    dše.e0g¦  «        dž„ ¦   «         Z¢ejK         L                    dŸe.e4e0e5e2e6g¦  «        ejK         L                    d ej£        ej¤        f¦  «        d¡„ ¦   «         ¦   «         Z¥ejK         L                    dŸe.e4e0e5e2e6g¦  «        d¢„ ¦   «         Z¦ejK         L                    dše.e0e2g¦  «        d£„ ¦   «         Z§d¤„ Z¨dS )¦é    N)ÚMock)ÚdatasetsÚlinear_modelÚmetrics)ÚcloneÚis_classifier)ÚConvergenceWarning)ÚNystroem)Ú	_sgd_fast)Ú_stochastic_gradient)ÚRandomizedSearchCVÚShuffleSplitÚStratifiedShuffleSplit)Úmake_pipeline)ÚLabelEncoderÚMinMaxScalerÚStandardScalerÚscale)ÚOneClassSVM)Úget_tags)Úassert_allcloseÚassert_almost_equalÚassert_array_almost_equalÚassert_array_equalc                 ó@   — d| vrd| d<   d| vrd | d<   d| vrd| d<   d S d S )NÚrandom_stateé*   ÚtolÚmax_iteré   © ©Úkwargss    ús/root/private/project/pallet_detection_v2/.venv/lib/python3.11/site-packages/sklearn/linear_model/tests/test_sgd.pyÚ_update_kwargsr%       sN   € Ø˜VÐ#Ð#Ø!#ˆˆ~Ñà�FÐÐØˆˆu‰Ø˜ÐÐØˆˆzÑÐÐð  Ðó    c                   ó<   ‡ — e Zd Zˆ fd„Zˆ fd„Zˆ fd„Zˆ fd„Zˆ xZS )Ú_SparseSGDClassifierc                 óh   •— t          j        |¦  «        } t          ¦   «         j        ||g|¢R i |¤ŽS ©N)ÚspÚ
csr_matrixÚsuperÚfit©ÚselfÚXÚyÚargsÚkwÚ	__class__s        €r$   r.   z_SparseSGDClassifier.fit+   s:   ø€ ÝŒM˜!ÑÔˆØ�u‰wŒwŒ{˜1˜aÐ- $Ð-Ð-Ð-¨"Ð-Ð-Ð-r&   c                 óh   •— t          j        |¦  «        } t          ¦   «         j        ||g|¢R i |¤ŽS r*   )r+   r,   r-   Úpartial_fitr/   s        €r$   r7   z _SparseSGDClassifier.partial_fit/   s;   ø€ ÝŒM˜!ÑÔˆØ"�u‰wŒwÔ" 1 aÐ5¨$Ð5Ð5Ð5°"Ð5Ð5Ð5r&   c                 ón   •— t          j        |¦  «        }t          ¦   «                              |¦  «        S r*   )r+   r,   r-   Údecision_function©r0   r1   r5   s     €r$   r9   z&_SparseSGDClassifier.decision_function3   s*   ø€ ÝŒM˜!ÑÔˆÝ‰wŒw×(Ò(¨Ñ+Ô+Ð+r&   c                 ón   •— t          j        |¦  «        }t          ¦   «                              |¦  «        S r*   )r+   r,   r-   Úpredict_probar:   s     €r$   r<   z"_SparseSGDClassifier.predict_proba7   s*   ø€ ÝŒM˜!ÑÔˆÝ‰wŒw×$Ò$ QÑ'Ô'Ð'r&   )Ú__name__Ú
__module__Ú__qualname__r.   r7   r9   r<   Ú__classcell__)r5   s   @r$   r(   r(   *   sƒ   ø€ € € € € ð.ð .ð .ð .ð .ð6ð 6ð 6ð 6ð 6ð,ð ,ð ,ð ,ð ,ð(ð (ð (ð (ð (ð (ð (ð (ð (r&   r(   c                   ó    — e Zd Zd„ Zd„ Zd„ ZdS )Ú_SparseSGDRegressorc                 ób   — t          j        |¦  «        }t          j        j        | ||g|¢R i |¤ŽS r*   )r+   r,   r   ÚSGDRegressorr.   ©r0   r1   r2   r3   r4   s        r$   r.   z_SparseSGDRegressor.fit=   s9   € ÝŒM˜!ÑÔˆÝÔ(Ô,¨T°1°aÐE¸$ÐEÐEÐEÀ"ÐEÐEÐEr&   c                 ób   — t          j        |¦  «        }t          j        j        | ||g|¢R i |¤ŽS r*   )r+   r,   r   rD   r7   rE   s        r$   r7   z_SparseSGDRegressor.partial_fitA   s9   € ÝŒM˜!ÑÔˆÝÔ(Ô4°T¸1¸aÐMÀ$ÐMÐMÐMÈ"ÐMÐMÐMr&   c                 ó`   — t          j        |¦  «        }t          j        j        | |g|¢R i |¤ŽS r*   )r+   r,   r   rD   r9   ©r0   r1   r3   r4   s       r$   r9   z%_SparseSGDRegressor.decision_functionE   s7   € åŒM˜!ÑÔˆÝÔ(Ô:¸4ÀÐPÀTÐPÐPÐPÈRÐPÐPÐPr&   N©r=   r>   r?   r.   r7   r9   r!   r&   r$   rB   rB   <   sL   € € € € € ðFð Fð FðNð Nð NðQð Qð Qð Qð Qr&   rB   c                   ó    — e Zd Zd„ Zd„ Zd„ ZdS )Ú_SparseSGDOneClassSVMc                 ó`   — t          j        |¦  «        }t          j        j        | |g|¢R i |¤ŽS r*   )r+   r,   r   ÚSGDOneClassSVMr.   rH   s       r$   r.   z_SparseSGDOneClassSVM.fitL   s7   € ÝŒM˜!ÑÔˆÝÔ*Ô.¨t°QÐD¸ÐDÐDÐDÀÐDÐDÐDr&   c                 ó`   — t          j        |¦  «        }t          j        j        | |g|¢R i |¤ŽS r*   )r+   r,   r   rM   r7   rH   s       r$   r7   z!_SparseSGDOneClassSVM.partial_fitP   s7   € ÝŒM˜!ÑÔˆÝÔ*Ô6°t¸QÐLÀÐLÐLÐLÈÐLÐLÐLr&   c                 ó`   — t          j        |¦  «        }t          j        j        | |g|¢R i |¤ŽS r*   )r+   r,   r   rM   r9   rH   s       r$   r9   z'_SparseSGDOneClassSVM.decision_functionT   s7   € ÝŒM˜!ÑÔˆÝÔ*Ô<¸TÀ1ÐRÀtÐRÐRÐRÈrÐRÐRÐRr&   NrI   r!   r&   r$   rK   rK   K   sL   € € € € € ðEð Eð EðMð Mð MðSð Sð Sð Sð Sr&   rK   c                  óB   — t          | ¦  «         t          j        di | ¤ŽS ©Nr!   )r%   r   ÚSGDClassifierr"   s    r$   rR   rR   Y   s'   € Ý�6ÑÔÐÝÔ%Ð/Ð/¨Ð/Ð/Ð/r&   c                  óB   — t          | ¦  «         t          j        di | ¤ŽS rQ   )r%   r   rD   r"   s    r$   rD   rD   ^   s'   € Ý�6ÑÔÐÝÔ$Ð.Ð. vÐ.Ð.Ð.r&   c                  óB   — t          | ¦  «         t          j        di | ¤ŽS rQ   )r%   r   rM   r"   s    r$   rM   rM   c   s'   € Ý�6ÑÔÐÝÔ&Ð0Ð0¨Ð0Ð0Ð0r&   c                  ó8   — t          | ¦  «         t          di | ¤ŽS rQ   )r%   r(   r"   s    r$   ÚSparseSGDClassifierrV   h   s$   € Ý�6ÑÔÐÝÐ)Ð) &Ð)Ð)Ð)r&   c                  ó8   — t          | ¦  «         t          di | ¤ŽS rQ   )r%   rB   r"   s    r$   ÚSparseSGDRegressorrX   m   s$   € Ý�6ÑÔÐÝÐ(Ð( Ð(Ð(Ð(r&   c                  ó8   — t          | ¦  «         t          di | ¤ŽS rQ   )r%   rK   r"   s    r$   ÚSparseSGDOneClassSVMrZ   r   s$   € Ý�6ÑÔÐÝ Ð*Ð* 6Ð*Ð*Ð*r&   éþÿÿÿéÿÿÿÿé   é   )r]   r]   r]   r^   r^   r^   é   )r]   r^   r^   g      è¿ç      à?g      ø¿g      ø?g      è?ç      à¿ÚoneÚtwoÚthree)rb   rc   rd   )r]   r]   r   r   r   r   )r   r   r]   r   r   r   )r   r   r   r   r]   r]   )r   r   r   r]   r   r   )r]   r]   r]   r]   r^   r^   r^   r^   )r]   çÍÌÌÌÌÌì?çš™™™™™é?r   r   r   )r]   çáz®Gáê?g\�Âõ(\ï?r   r   r   )r]   ç¸…ëQ¸î?g)\�Âõ(ì?r   r   r   )r]   ç…ëQ¸í?ç®Gáz®ï?r   r   r   )r   r   r   g{®Gázì?ri   r]   )r   r   r   gHáz®Gé?rg   r]   )r   r   r   ri   gffffffî?r]   )r   r   r   gÃõ(\�Âí?r]   r]   )r   r]   r]   ç        c                 óÂ  — |€ t          j        |j        d         ¦  «        }n|}t          j        |j        d         ¦  «        }|}	d}
d}| t          t          fv rd}t          |¦  «        D ]q\  }}t          j        ||¦  «        }||	z  }|||         z
  }|d||z  z
  z  }|||z  |z   z  }|	||z   |z  z  }	||z  }||z  }||dz   z  }|
|z  }
|
|	z  }
|
|dz   z  }
Œr||
fS )Nr]   rk   ç      ð?ç{®Gáz„?)ÚnpÚzerosÚshaperV   rX   Ú	enumerateÚdot)Úklassr1   r2   ÚetaÚalphaÚweight_initÚintercept_initÚweightsÚaverage_weightsÚ	interceptÚaverage_interceptÚdecayÚiÚentryÚpÚgradients                   r$   Úasgdr‚   ½   s7  € ØÐÝ”(˜1œ7 1œ:Ñ&Ô&ˆˆàˆå”h˜qœw qœzÑ*Ô*€OØ€IØÐØ€Eð Õ$Õ&8Ð9Ð9Ð9Øˆå˜a‘L”Lð %ð %‰ˆˆ5ÝŒF�5˜'Ñ"Ô"ˆØ	ˆY‰ˆØ�q˜”t‘8ˆØ�3˜# ™+Ñ&Ñ&ˆØ�S˜8‘^ eÑ+Ð,Ñ,ˆØ�s˜X‘~Ð&¨Ñ.Ñ.ˆ	à˜1ÑˆØ˜7Ñ"ˆØ˜1˜s™7Ñ"ˆà˜QÑÐØ˜YÑ&ÐØ˜Q ™WÑ$ÐÐàÐ-Ð-Ð-r&   c                 óP  —  | ddd|¬¦  «        }|                      ||¦  «          | ddd|¬¦  «        }|                      |||j                             ¦   «         |j                             ¦   «         ¬¦  «          | dddd|¬¦  «        }|                      ||¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         |                     d¬¦  «         |                      ||¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         d S )	Nrn   F)rv   Úeta0ÚshuffleÚlearning_rateçü©ñÒMbP?©Ú	coef_initrx   T)rv   r„   r…   Ú
warm_startr†   ©rv   )r.   Úcoef_ÚcopyÚ
intercept_Út_r   Ú
set_params)rt   r1   ÚYÚlrÚclfÚclf2Úclf3s          r$   Ú_test_warm_startr–   ß   s*  € à
ˆ%�d ¨uÀBÐ
GÑ
GÔ
G€CØ‡G‚GˆAˆq�M„M€Màˆ5�u 4°ÀbÐIÑIÔI€DØ‡H‚HˆQ�˜SœYŸ^š^Ñ-Ô-¸c¼n×>QÒ>QÑ>SÔ>S€HÑTÔTÐTð ˆ5Ø˜ u¸ÈRðñ ô €Dð 	‡H‚HˆQ��N„N€NàŒ7�c”fÒÐÐÐÝ˜dœj¨#¬)Ñ4Ô4Ð4à‡O‚O˜%€OÑ Ô Ð Ø‡H‚HˆQ��N„N€NàŒ7�d”gÒÐÐÐÝ˜dœj¨$¬*Ñ5Ô5Ð5Ð5Ð5r&   rt   r’   )ÚconstantÚoptimalÚ
invscalingÚadaptivec                 ó>   — t          | t          t          |¦  «         d S r*   )r–   r1   r‘   ©rt   r’   s     r$   Útest_warm_startr�   ÷   s   € õ
 �U�A�q "Ñ%Ô%Ð%Ð%Ð%r&   c                 ó|  —  | dd¬¦  «        }|                      t          t          ¦  «         t          j        t          ¦  «        d d …t          j        f         }t          j        ||f         }t          j        t          ¦  «        5  |                      t          |¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrn   F©rv   r…   )
r.   r1   r‘   ro   ÚarrayÚnewaxisÚc_ÚpytestÚraisesÚ
ValueError)rt   r“   ÚY_s      r$   Útest_input_formatr§   ÿ   sÙ   € ð
 ˆ%�d EÐ
*Ñ
*Ô
*€CØ‡G‚G�A�q�M„M€MÝ	Œ•!‰Œ�Q�Q�Q�œ
�]Ô	#€Bå	Œˆr�2ˆvŒ€BÝ	Œ•zÑ	"Ô	"ð ð Ø�Š•�2‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   ÂB1Â1B5Â8B5c                 ó8  —  | dd¬¦  «        }t          |¦  «        }|                     d¬¦  «         |                     t          t          ¦  «          | dd¬¦  «        }|                     t          t          ¦  «         t          |j        |j        ¦  «         d S )Nrn   Úl1)rv   ÚpenaltyÚl2)rª   )r   r�   r.   r1   r‘   r   rŒ   ©rt   r“   r”   s      r$   Ú
test_cloner­     s‡   € ð
 ˆ%�d DÐ
)Ñ
)Ô
)€CÝ
�‰*Œ*€CØ‡N‚N˜4€NÑ Ô Ð Ø‡G‚G�A�q�M„M€Màˆ5�t TÐ*Ñ*Ô*€DØ‡H‚H�Q•�N„N€Nå�s”y $¤*Ñ-Ô-Ð-Ð-Ð-r&   c                 óÔ  —  | dd¬¦  «        }|                      t          t          ¦  «         t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚ | ¦   «         }|                      t          t          ¦  «         t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚d S )NTrn   )Úaverager„   Ú_average_coefÚ_average_interceptÚ_standard_interceptÚ_standard_coef)r.   r1   r‘   Úhasattr©rt   r“   s     r$   Útest_plain_has_no_average_attrr¶     s  € ð ˆ%˜ 4Ð
(Ñ
(Ô
(€CØ‡G‚G�A�q�M„M€Må�3˜Ñ(Ô(Ð(Ð(Ð(Ý�3Ð,Ñ-Ô-Ð-Ð-Ð-Ý�3Ð-Ñ.Ô.Ð.Ð.Ð.Ý�3Ð(Ñ)Ô)Ð)Ð)Ð)à
ˆ%‰'Œ'€CØ‡G‚G�A�q�M„M€Må�s˜OÑ,Ô,Ð,Ð,Ð,Ý�sÐ0Ñ1Ô1Ð1Ð1Ð1Ý�sÐ1Ñ2Ô2Ð2Ð2Ð2Ý�sÐ,Ñ-Ô-Ð-Ð-Ð-Ð-Ð-r&   c                 óÞ  —  | d¬¦  «        } | ¦   «         }t          d¦  «        D ]Ä}t          |¦  «        rs|                     t          t          t          j        t          ¦  «        ¬¦  «         |                     t          t          t          j        t          ¦  «        ¬¦  «         Œ„|                     t          t          ¦  «         |                     t          t          ¦  «         ŒÅt          |j        |j        d¬¦  «         | t          t          t          t          fv rt          |j        |j        d¬¦  «         d S | t          t           fv rt#          |j        |j        ¦  «         d S d S )NiX  ©r¯   éd   ©Úclassesé   ©Údecimal)Úranger   r7   r1   r‘   ro   Úuniquer   rŒ   rR   rV   rD   rX   r   rŽ   rM   rZ   r   Úoffset_)rt   Úclf1r”   Ú_s       r$   Ú%test_late_onset_averaging_not_reachedrÄ   :  s?  € ð ˆ5˜ÐÑÔ€DØˆ5‰7Œ7€DÝ�3‰ZŒZð #ð #ˆÝ˜ÑÔð 	#Ø×Ò�Q¥­2¬9µQ©<¬<ÐÑ8Ô8Ð8Ø×Ò�Q¥­2¬9µQ©<¬<ÐÑ8Ô8Ð8Ð8à×Ò�Q¥Ñ"Ô"Ð"Ø×Ò�Q¥Ñ"Ô"Ð"Ð"å˜dœj¨$¬*¸bÐAÑAÔAÐAØ•Õ 3µ\ÕCUÐVÐVÐVÝ˜DœO¨T¬_ÀbÐIÑIÔIÐIÐIÐIØ	•>Õ#7Ð8Ð	8Ð	8Ý˜œ d¤lÑ3Ô3Ð3Ð3Ð3ð 
9Ð	8r&   c           	      ó0  — d}d}t          j        t          ¦  «        }d||dk    <   d||dk    <    | ddd	||dd
¬¦  «        } | d
dd	||dd
¬¦  «        }|                     t          |¦  «         |                     t          |¦  «         t          | t          ||||j                             ¦   «         |j        ¬¦  «        \  }}t          |j                             ¦   «         |                     ¦   «         d¬¦  «         t          |j        |d¬¦  «         d S )Nr‡   ç-Cëâ6?ç      ð¿r]   rm   r^   é   r—   Úsquared_errorF)r¯   r†   Úlossr„   rv   r   r…   )rw   rx   r¼   r½   )ro   r    r‘   r.   r1   r‚   rŒ   ÚravelrŽ   r   r   )rt   r„   rv   ÚY_encoderÂ   r”   rz   r|   s           r$   Ú!test_late_onset_averaging_reachedrÍ   W  sH  € ð €DØ€EÝŒx�‰{Œ{€HØ"€HˆX˜Š]ÑØ!€HˆX˜Š]Ñàˆ5ØØ ØØØØØðñ ô €Dð ˆ5ØØ ØØØØØðñ ô €Dð 	‡H‚H�Q�ÑÔÐØ‡H‚H�Q�ÑÔÐå)-ØÝ	ØØØØ”J×$Ò$Ñ&Ô&Ø”ð*ñ *ô *Ñ&€OÐ&õ ˜dœj×.Ò.Ñ0Ô0°/×2GÒ2GÑ2IÔ2IÐSUÐVÑVÔVÐVÝ˜œÐ):ÀBÐGÑGÔGÐGÐGÐGr&   c                 óò   — t           j        t           j        dk             }t           j        t           j        dk             }dD ]3}d} | |d|¬¦  «                             ||¦  «        }|j        |k     sJ ‚Œ4d S )Nr   ©TFéè  r‡   )Úearly_stoppingr   r   )ÚirisÚdataÚtargetr.   Ún_iter_)rt   r1   r‘   rÑ   r   r“   s         r$   Útest_early_stoppingrÖ   …  s‰   € õ 	Œ	•$”+ ’/Ô"€AÝŒ•D”K !’OÔ$€AØ'ð &ð &ˆØˆØˆe >°tÀhÐOÑOÔO×SÒSØˆqñ
ô 
ˆð Œ{˜XÒ%Ð%Ð%Ð%Ð%ð&ð &r&   c                 ó  —  | dddd¬¦  «        }|                      t          j        t          j        ¦  «          | dddd¬¦  «        }|                      t          j        t          j        ¦  «         |j        |j        k    sJ ‚d S )Nrš   rn   r‡   r¹   )r†   r„   r   r   r—   )r.   rÒ   rÓ   rÔ   rÕ   )rt   rÂ   r”   s      r$   Ú"test_adaptive_longer_than_constantrØ   “  s   € ð ˆ5˜z°¸$ÈÐMÑMÔM€DØ‡H‚H�TŒY�œÑ$Ô$Ð$Øˆ5˜z°¸$ÈÐMÑMÔM€DØ‡H‚H�TŒY�œÑ$Ô$Ð$ØŒ<˜$œ,Ò&Ð&Ð&Ð&Ð&Ð&r&   c           
      ó´  — t           j        t           j        }}d}d}d}d} | dt          j                             |¦  «        |ddd ||¬¦  «        }|                     ||¦  «         |j        |k    sJ ‚ | dt          j                             |¦  «        ddd ||¬	¦  «        }t          |¦  «        rt          ||¬
¦  «        }	nt          ||¬
¦  «        }	t          |	                     ||¦  «        ¦  «        \  }
}t          j        |
¦  «        }
|                     ||
         ||
         ¦  «         |j        |k    sJ ‚t          |j        |j        ¦  «         d S )Nçš™™™™™Ù?r   Fé
   Tr—   rn   )rÑ   r   Úvalidation_fractionr†   r„   r   r   r…   )rÑ   r   r†   r„   r   r   r…   )Ú	test_sizer   )rÒ   rÓ   rÔ   ro   ÚrandomÚRandomStater.   rÕ   r   r   r   ÚnextÚsplitÚsortr   rŒ   )rt   r1   r‘   rÜ   Úseedr…   r   rÂ   r”   ÚcvÚ	idx_trainÚidx_vals               r$   Ú)test_validation_set_not_used_for_trainingrç   ž  sw  € õ Œ9•d”k€q€AØÐØ€DØ€GØ€HØˆ5ØÝ”Y×*Ò*¨4Ñ0Ô0Ø/Ø ØØØØð	ñ 	ô 	€Dð 	‡H‚HˆQ��N„N€NØŒ<˜8Ò#Ð#Ð#Ð#àˆ5ØÝ”Y×*Ò*¨4Ñ0Ô0Ø ØØØØðñ ô €Dõ �TÑÔð LÝ#Ð.AÐPTÐUÑUÔUˆˆåÐ$7ÀdÐKÑKÔKˆÝ˜bŸhšh q¨!™nœnÑ-Ô-Ñ€IˆwÝ”˜	Ñ"Ô"€IØ‡H‚HˆQˆyŒ\˜1˜Yœ<Ñ(Ô(Ð(ØŒ<˜8Ò#Ð#Ð#Ð#å�t”z 4¤:Ñ.Ô.Ð.Ð.Ð.r&   c                 ó¦   ‡ ‡‡‡— t           j        t           j        cŠŠdD ]0Šˆˆˆˆ fd„dD ¦   «         }t          |t	          |¦  «        ¦  «         Œ1d S )NrÏ   c                 ó`   •— g | ]*} ‰‰|d d¬¦  «                              ‰‰¦  «        j        ‘Œ+S )rÆ   rÐ   )rÑ   Ún_iter_no_changer   r   )r.   rÕ   )Ú.0rê   r1   r‘   rÑ   rt   s     €€€€r$   ú
<listcomp>z)test_n_iter_no_change.<locals>.<listcomp>Ñ  sZ   ø€ ð 

ð 

ð 

ð !ð ˆEØ-Ø!1ØØð	ñ ô ÷ ŠS��A‰YŒYÜð

ð 

ð 

r&   )r^   r_   rÛ   )rÒ   rÓ   rÔ   r   Úsorted)rt   Ún_iter_listr1   r‘   rÑ   s   ` @@@r$   Útest_n_iter_no_changerï   Ê  s†   øøøø€ õ Œ9•d”k€D€A€qà'ð =ð =ˆð

ð 

ð 

ð 

ð 

ð 

ð 

ð %/ð

ñ 

ô 

ˆõ 	˜;­¨{Ñ(;Ô(;Ñ<Ô<Ð<Ð<ð=ð =r&   c                 óÄ   —  | dd¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )NTrj   )rÑ   rÜ   )r£   r¤   r¥   r.   ÚX3ÚY3rµ   s     r$   Ú)test_not_enough_sample_for_early_stoppingró   ß  s�   € ð
 ˆ%˜t¸Ð
>Ñ
>Ô
>€CÝ	Œ•zÑ	"Ô	"ð ð Ø�Š••B‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   §!AÁAÁAc           	      óÌ   — dD ]`} | ddd|dd¬¦  «        }|                      t          t          ¦  «         t          |                     t
          ¦  «        t          ¦  «         Œad S )N)ÚhingeÚsquared_hingeÚlog_lossÚmodified_huberr«   rn   TrÛ   )rª   rv   Úfit_interceptrÊ   r   r…   )r.   r1   r‘   r   ÚpredictÚTÚtrue_result)rt   rÊ   r“   s      r$   Útest_sgd_clfrý   í  sv   € ð Ið 8ð 8ˆØˆeØØØØØØð
ñ 
ô 
ˆð 	�Š••1‰Œˆå˜3Ÿ;š;¥q™>œ>­;Ñ7Ô7Ð7Ð7ð8ð 8r&   c                 óæ   — t          j        t          d¬¦  «        5   | ¦   «                              t          t
          t          j        d¦  «        ¬¦  «         ddd¦  «         dS # 1 swxY w Y   dS )z1Check that the shape of `coef_init` is validated.z)Provided coef_init does not match dataset©Úmatch©r_   ©r‰   N)r£   r¤   r¥   r.   r1   r‘   ro   rp   ©rt   s    r$   Útest_provide_coefr  ÿ  s¤   € õ
 
Œ•zÐ)TÐ	UÑ	UÔ	Uð 4ð 4Øˆ‰Œ�Š•A•q¥B¤H¨T¡N¤NˆÑ3Ô3Ð3ð4ð 4ð 4ñ 4ô 4ð 4ð 4ð 4ð 4ð 4ð 4ð 4øøøð 4ð 4ð 4ð 4ð 4ð 4s   œ=A&Á&A*Á-A*zklass, fit_paramsrx   r  Úoffset_initc                 ó´   —  | ¦   «         }t          j        t          d¬¦  «        5   |j        t          t
          fi |¤Ž ddd¦  «         dS # 1 swxY w Y   dS )z:Check that `intercept_init` or `offset_init` is validated.zdoes not match datasetrÿ   N©r£   r¤   r¥   r.   r1   r‘   )rt   Ú
fit_paramsÚsgd_estimators      r$   Útest_set_intercept_offsetr
    s¦   € ð �E‘G”G€MÝ	Œ•zÐ)AÐ	BÑ	BÔ	Bð .ð .ØˆÔ�!�QÐ-Ð- *Ð-Ð-Ð-ð.ð .ð .ñ .ô .ð .ð .ð .ð .ð .ð .ð .øøøð .ð .ð .ð .ð .ð .s   ¦AÁAÁAc                 óÆ   — d}t          j        t          |¬¦  «        5   | d¬¦  «                             t          t
          ¦  «         ddd¦  «         dS # 1 swxY w Y   dS )zSCheck that we raise an error for `early_stopping` used with
    `partial_fit`.
    z/early_stopping should be False with partial_fitrÿ   T)rÑ   N)r£   r¤   r¥   r7   r1   r‘   )rt   Úerr_msgs     r$   Ú(test_sgd_early_stopping_with_partial_fitr    s¦   € ð @€GÝ	Œ•z¨Ð	1Ñ	1Ô	1ð 5ð 5Øˆ˜TÐ"Ñ"Ô"×.Ò.­qµ!Ñ4Ô4Ð4ð5ð 5ð 5ñ 5ô 5ð 5ð 5ð 5ð 5ð 5ð 5ð 5øøøð 5ð 5ð 5ð 5ð 5ð 5s   ž+AÁAÁAc                 óH   —   | ¦   «         j         t          t          fi |¤Ž dS )zdCheck that we can pass a scaler with binary classification to
    `intercept_init` or `offset_init`.N)r.   ÚX5ÚY5)rt   r  s     r$   Ú test_set_intercept_offset_binaryr  $  s,   € ð €E€E�G„G„K••BÐ%Ð%˜*Ð%Ð%Ð%Ð%Ð%r&   c           
      ó  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        }|                     |¬¦  «        } | dd||d	d
d	d¬¦  «        }t          j        ||¦  «        }	t          j        |	¦  «        }	|                     ||	¦  «         t          | ||	||¦  «        \  }
}|
                     d
d¦  «        }
t          |j
        |
d¬¦  «         t          |j        |d¬¦  «         d S )Nçš™™™™™¹?ç       @é   rÛ   r   ©ÚsizerÉ   r—   Tr]   F©rÊ   r†   r„   rv   rù   r   r¯   r…   r\   é   r½   )ro   rÞ   rß   Únormalrs   Úsignr.   r‚   Úreshaper   rŒ   r   rŽ   )rt   ru   rv   Ú	n_samplesÚ
n_featuresÚrngr1   Úwr“   r2   rz   r|   s               r$   Ú&test_average_binary_computed_correctlyr!  3  s  € ð €CØ€EØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€AØ�
Š
˜
ˆ
Ñ#Ô#€Aà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cõ 	Œˆq�!‰Œ€AÝ
Œ�‰
Œ
€Aà‡G‚GˆAˆq�M„M€Må)-¨e°Q¸¸3ÀÑ)FÔ)FÑ&€OÐ&Ø%×-Ò-¨a°Ñ4Ô4€OÝ˜cœi¨À"ÐEÑEÔEÐEÝ˜œÐ(9À2ÐFÑFÔFÐFÐFÐFr&   c                 ób  —  | ¦   «                               t          t          ¦  «        } | ¦   «                               t          t          |j        ¬¦  «          | ¦   «                               t          t
          ¦  «        } | ¦   «                               t          t
          |j        ¬¦  «         d S )N©rx   )r.   r  r  rŽ   r1   r‘   rµ   s     r$   Útest_set_intercept_to_interceptr$  U  s|   € ð ˆ%‰'Œ'�+Š+•b�"Ñ
Ô
€CØ	€E�G„G‡K‚K••B s¤~€KÑ6Ô6Ð6Ø
ˆ%‰'Œ'�+Š+•a�Ñ
Ô
€CØ	€E�G„G‡K‚K••1 S¤^€KÑ4Ô4Ð4Ð4Ð4r&   c                 óÞ   —  | dd¬¦  «        }t          j        t          ¦  «        5  |                     t          t          j        d¦  «        ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrn   r  ©rv   r   é	   )r£   r¤   r¥   r.   ÚX2ro   Úonesrµ   s     r$   Útest_sgd_at_least_two_labelsr*  _  s¨   € ð ˆ%�d RÐ
(Ñ
(Ô
(€CÝ	Œ•zÑ	"Ô	"ð  ð  Ø�Š••B”G˜A‘J”JÑÔÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  ð  ð  s   §.A"Á"A&Á)A&c                 óø   — d}t          j        t          |¬¦  «        5   | d¬¦  «                             t          t
          t          j        t
          ¦  «        ¬¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Na`  class_weight 'balanced' is not supported for partial_fit\. In order to use 'balanced' weights, use compute_class_weight\('balanced', classes=classes, y=y\). In place of y you can use a large enough sample of the full training set target to properly estimate the class frequency distributions\. Pass the resulting weights as the class_weight parameter\.rÿ   Úbalanced)Úclass_weightrº   )r£   r¤   r¥   r7   r1   r‘   ro   rÀ   )rt   Úregexs     r$   Ú&test_partial_fit_weight_class_balancedr/  g  sË   € ð	ð 
õ 
Œ•z¨Ð	/Ñ	/Ô	/ð Oð OØˆ˜:Ð&Ñ&Ô&×2Ò2µ1µaÅÄÍ1ÁÄÐ2ÑNÔNÐNðOð Oð Oñ Oô Oð Oð Oð Oð Oð Oð Oð Oøøøð Oð Oð Oð Oð Oð Os   žAA/Á/A3Á6A3c                 óH  —  | dd¬¦  «                              t          t          ¦  «        }|j        j        dk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚|                     t          ¦  «        }t          |t          ¦  «         d S )Nrn   r  r&  ©r_   r^   r  r   ©r]   r_   ©r.   r(  ÚY2rŒ   rq   rŽ   r9   rú   ÚT2r   Útrue_result2©rt   r“   Úpreds      r$   Útest_sgd_multiclassr9  x  s    € ð ˆ%�d RÐ
(Ñ
(Ô
(×
,Ò
,­RµÑ
4Ô
4€CØŒ9Œ?˜fÒ$Ð$Ð$Ð$ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°FÒ:Ð:Ð:Ð:Ø�;Š;•r‰?Œ?€DÝ�t�\Ñ*Ô*Ð*Ð*Ð*r&   c           
      óè  — d}d} | dd||dddd¬¦  «        }t          j        t          ¦  «        }|                     t          |¦  «         t          j        |¦  «        }t          |¦  «        D ]‚\  }}t          j        |j        d	         ¦  «        }d
|||k    <   t          | t          |||¦  «        \  }	}
t          |	|j        |         d¬¦  «         t          |
|j        |         d¬¦  «         Œƒd S )Nr‡   rn   rÉ   r—   Tr]   Fr  r   r\   r¼   r½   )ro   r    r4  r.   r(  rÀ   rr   r)  rq   r‚   r   rŒ   r   rŽ   )rt   ru   rv   r“   Únp_Y2r»   r~   ÚclÚy_iÚaverage_coefr|   s              r$   Útest_sgd_multiclass_averager?  ƒ  s  € à
€CØ€Eà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cõ ŒH•R‰LŒL€EØ‡G‚G�B�ÑÔÐÝŒi˜ÑÔ€Gå˜7Ñ#Ô#ð Nð N‰ˆˆ2ÝŒg�e”k !”nÑ%Ô%ˆØˆˆE�RŠKÑÝ*.¨uµb¸#¸sÀEÑ*JÔ*JÑ'ˆÐ'Ý! ,°´	¸!´ÀbÐIÑIÔIÐIÝÐ-¨s¬~¸aÔ/@È"ÐMÑMÔMÐMÐMðNð Nr&   c                 ó\  —  | dd¬¦  «        }|                      t          t          t          j        d¦  «        t          j        d¦  «        ¬¦  «         |j        j        dk    sJ ‚|j        j        s
J d¦   «         ‚|                     t          ¦  «        }t          |t          ¦  «         d S )Nrn   r  r&  r1  r_   rˆ   r  )r.   r(  r4  ro   rp   rŒ   rq   rŽ   rú   r5  r   r6  r7  s      r$   Ú"test_sgd_multiclass_with_init_coefrA  Ÿ  s—   € ð ˆ%�d RÐ
(Ñ
(Ô
(€CØ‡G‚G�B•�bœh vÑ.Ô.½r¼xÈ¹{¼{€GÑKÔKÐKØŒ9Œ?˜fÒ$Ð$Ð$Ð$ØŒ>ÔÐ%Ð% Ñ%Ô%ÐØ�;Š;•r‰?Œ?€DÝ�t�\Ñ*Ô*Ð*Ð*Ð*r&   c                 óJ  —  | ddd¬¦  «                              t          t          ¦  «        }|j        j        dk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚|                     t          ¦  «        }t          |t          ¦  «         d S )	Nrn   r  r^   )rv   r   Ún_jobsr1  r  r   r2  r3  r7  s      r$   Útest_sgd_multiclass_njobsrD  ª  s¢   € ð ˆ%�d R°Ð
2Ñ
2Ô
2×
6Ò
6µr½2Ñ
>Ô
>€CØŒ9Œ?˜fÒ$Ð$Ð$Ð$ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°FÒ:Ð:Ð:Ð:Ø�;Š;•r‰?Œ?€DÝ�t�\Ñ*Ô*Ð*Ð*Ð*r&   c                 ó²  —  | ¦   «         }t          j        t          ¦  «        5  |                     t          t
          t          j        d¦  «        ¬¦  «         d d d ¦  «         n# 1 swxY w Y    | ¦   «                              t          t
          t          j        d¦  «        ¬¦  «        } | ¦   «         }t          j        t          ¦  «        5  |                     t          t
          t          j        d¦  «        ¬¦  «         d d d ¦  «         n# 1 swxY w Y    | ¦   «                              t          t
          t          j        d¦  «        ¬¦  «        }d S )N)r^   r^   r  r1  ©r]   r#  r  )r£   r¤   r¥   r.   r(  r4  ro   rp   rµ   s     r$   Útest_set_coef_multiclassrG  µ  s|  € ð
 ˆ%‰'Œ'€CÝ	Œ•zÑ	"Ô	"ð 4ð 4Ø�Š••B¥"¤(¨6Ñ"2Ô"2ˆÑ3Ô3Ð3ð4ð 4ð 4ñ 4ô 4ð 4ð 4ð 4ð 4ð 4ð 4øøøð 4ð 4ð 4ð 4ð ˆ%‰'Œ'�+Š+•b�"­¬°Ñ(8Ô(8ˆ+Ñ
9Ô
9€Cð ˆ%‰'Œ'€CÝ	Œ•zÑ	"Ô	"ð 7ð 7Ø�Š••B¥r¤x°¡~¤~ˆÑ6Ô6Ð6ð7ð 7ð 7ñ 7ô 7ð 7ð 7ð 7ð 7ð 7ð 7øøøð 7ð 7ð 7ð 7ð ˆ%‰'Œ'�+Š+•b�"­R¬X°d©^¬^ˆ+Ñ
<Ô
<€C€C€Cs#   ¤5A%Á%A)Á,A)Ã5DÄDÄDc                 óö  — t           j        j        D �]e}t          |¬¦  «        }|dv r%t          |d¦  «        sJ ‚t          |d¦  «        sJ ‚Œ<d                     |¦  «        }t          |d¦  «        rJ ‚t          |d¦  «        rJ ‚t          j        t          d¬¦  «        5 }|j         d d d ¦  «         n# 1 swxY w Y   t          |j
        j        t          ¦  «        sJ ‚|t          |j
        j        ¦  «        v sJ ‚t          j        t          d¬¦  «        5 }|j         d d d ¦  «         n# 1 swxY w Y   t          |j
        j        t          ¦  «        sJ ‚|t          |j
        j        ¦  «        v sJ ‚�Œgd S )	N)rÊ   ©r÷   rø   r<   Úpredict_log_probaz5probability estimates are not available for loss={!r}z has no attribute 'predict_proba'rÿ   z$has no attribute 'predict_log_proba')r   rR   Úloss_functionsr´   Úformatr£   r¤   ÚAttributeErrorr<   Ú
isinstanceÚvalueÚ	__cause__ÚstrrJ  )rt   rÊ   r“   Ú	inner_msgÚ	exec_infos        r$   Ú$test_sgd_predict_proba_method_accessrT  Ê  s!  € õ Ô*Ô9ð ?ñ ?ˆÝ Ð&Ñ&Ô&ˆØÐ1Ð1Ð1Ý˜3 Ñ0Ô0Ð0Ð0Ð0Ý˜3Ð 3Ñ4Ô4Ð4Ð4Ð4Ð4àO×VÒVØñô ˆIõ ˜s OÑ4Ô4Ð4Ð4Ð4Ý˜sÐ$7Ñ8Ô8Ð8Ð8Ð8Ý”ÝÐ&Hðñ ô ð "àØÔ!Ð!ð"ð "ð "ñ "ô "ð "ð "ð "ð "ð "ð "øøøð "ð "ð "ð "õ
 ˜iœoÔ7½ÑHÔHÐHÐHÐHØ¥ I¤OÔ$=Ñ >Ô >Ð>Ð>Ð>Ð>å”ÝÐ&Lðñ ô ð &àØÔ%Ð%ð&ð &ð &ñ &ô &ð &ð &ð &ð &ð &ð &øøøð &ð &ð &ð &õ ˜iœoÔ7½ÑHÔHÐHÐHÐHØ¥ I¤OÔ$=Ñ >Ô >Ð>Ð>Ð>Ð>Ñ>ð1?ð ?s$   Â"B6Â6B:	Â=B:	ÄD.Ä.D2	Ä5D2	c                 ó4	  — t          dddd ¬¦  «                             t          t          ¦  «        }t	          |d¦  «        rJ ‚t	          |d¦  «        rJ ‚dD �]} | |dd¬¦  «        }|                     t          t          ¦  «         |                     d	d
gg¦  «        }|d         dk    sJ ‚|                     ddgg¦  «        }|d         dk     sJ ‚t          j        d¬¦  «        5  |                     d	d
gg¦  «        }|d         |d         k    sJ ‚|                     ddgg¦  «        }|d         |d         k     sJ ‚	 d d d ¦  «         n# 1 swxY w Y   �Œ | ddd¬¦  «                             t          t          ¦  «        }|                     ddgddgg¦  «        }|                     ddgddgg¦  «        }t          t          j        |d¬¦  «        t          j        |d¬¦  «        ¦  «         t          |d                              ¦   «         d¦  «         t          j        |d         dk    ¦  «        sJ ‚|                     ddgg¦  «        }|                     ddgg¦  «        }t          t          j        |d         ¦  «        t          j        |d         ¦  «        ¦  «         |                     d	d
gg¦  «        }|                     d	d
gg¦  «        }t%          t          j        |¦  «        |¦  «         |                     ddgg¦  «        }|                     ddgg¦  «        }t%          t          j        |¦  «        |¦  «          | ddd¬¦  «        }|                     t          t          ¦  «         |                     d	d
gg¦  «        }|                     d	d
gg¦  «        }| t(          k    r1t          j        |d¬¦  «        t          j        |d¬¦  «        k    sJ ‚n0t          j        |d¬¦  «        t          j        |d¬¦  «        k    sJ ‚t                               d¬¦  «        }|                     |g¦  «        }t          j        |dk     ¦  «        r2|                     |g¦  «        }t%          |d         dgd	z  ¦  «         d S d S )Nrõ   rn   rÛ   )rÊ   rv   r   r   r<   rJ  rI  )rÊ   rv   r   r_   r^   ©r   r]   r`   r\   Úignore)Údivide)r   r   r÷   r  çš™™™™™¹¿ç333333Ó?çš™™™™™É?r]   )Úaxisr   rø   gUUUUUUÕ?)rR   r.   r1   r‘   r´   r<   ro   ÚerrstaterJ  r(  r4  r9   r   Úargmaxr   ÚsumÚallÚargsortr   ÚlogrV   ÚargminÚmean)rt   r“   rÊ   r€   ÚdÚlpÚxs          r$   Útest_sgd_probarh  ì  s¼  € õ ˜W¨D¸2À4Ð
HÑ
HÔ
H×
LÒ
LÍQÕPQÑ
RÔ
R€CÝ�s˜OÑ,Ô,Ð,Ð,Ð,Ý�sÐ/Ñ0Ô0Ð0Ð0Ð0ð /ð %ñ %ˆØˆe˜ T°BÐ7Ñ7Ô7ˆØ�Š••1‰ŒˆØ×Ò  1˜v˜hÑ'Ô'ˆØ�Œw˜Š}ˆ}ˆ}ˆ}Ø×Ò  B˜x˜jÑ)Ô)ˆØ�Œw˜Š}ˆ}ˆ}ˆ}õ Œ[ Ð)Ñ)Ô)ð 	%ð 	%Ø×%Ò%¨¨1 v hÑ/Ô/ˆAØ�T”7˜Q˜tœWÒ$Ð$Ð$Ð$Ø×%Ò%¨¨B x jÑ1Ô1ˆAØ�T”7˜Q˜tœWÒ$Ð$Ð$Ð$Ð$ð		%ð 	%ð 	%ñ 	%ô 	%ð 	%ð 	%ð 	%ð 	%ð 	%ð 	%øøøð 	%ð 	%ð 	%ð 	%ùð ˆ%�Z t°bÐ
9Ñ
9Ô
9×
=Ò
=½bÅ"Ñ
EÔ
E€Cà×Ò  T˜{¨S°#¨JÐ7Ñ8Ô8€AØ×Ò˜C ˜;¨¨c¨
Ð3Ñ4Ô4€AÝ•r”y ¨Ð+Ñ+Ô+­R¬Y°q¸qÐ-AÑ-AÔ-AÑBÔBÐBÝ˜˜!œŸš™
œ
 AÑ&Ô&Ð&ÝŒ6�!�A”$˜!’)ÑÔÐÐÐà×Ò˜B ˜8˜*Ñ%Ô%€AØ×Ò  B˜x˜jÑ)Ô)€AÝ•r”z ! A¤$Ñ'Ô'­¬°A°a´DÑ)9Ô)9Ñ:Ô:Ð:à	×	Ò	  A ˜xÑ	(Ô	(€BØ×Ò˜A˜q˜6˜(Ñ#Ô#€AÝ�bœf Q™iœi¨Ñ,Ô,Ð,à	×	Ò	  R ˜zÑ	*Ô	*€BØ×Ò˜B ˜8˜*Ñ%Ô%€AÝ�bœf Q™iœi¨Ñ,Ô,Ð,ð
 ˆ%Ð%¨T¸BÐ
?Ñ
?Ô
?€CØ‡G‚G�B•�O„O€OØ×Ò  1˜v˜hÑ'Ô'€AØ×Ò˜A˜q˜6˜(Ñ#Ô#€AØÕ#Ò#Ð#ÝŒy˜ Ð#Ñ#Ô#¥r¤y°¸Ð';Ñ';Ô';Ò;Ð;Ð;Ð;Ð;åŒy˜ Ð#Ñ#Ô#¥r¤y°¸Ð';Ñ';Ô';Ò;Ð;Ð;Ð;õ
 	
�Š�Aˆ‰Œ€AØ×Ò˜q˜cÑ"Ô"€AÝ	„vˆa�"Šf�~„~ð 7Ø×Ò˜q˜cÑ"Ô"ˆÝ! ! A¤$¨¨	°A©Ñ6Ô6Ð6Ð6Ð6ð7ð 7s   Ã*AEÅE	ÅE	c                 óh  — t          t          ¦  «        }t          j                             d¦  «        }t          j        |¦  «        }|                     |¦  «         t          |d d …f         }t          |         } | ddddd d¬¦  «        }|                     ||¦  «         t          |j
        ddd	…f         t          j        d
¦  «        ¦  «         |                     |¦  «        }t          ||¦  «         |                     ¦   «          t          j        |j
        ¦  «        sJ ‚|                     |¦  «        }t          ||¦  «         t!          j        t!          j        |¦  «        ¦  «        }t          j        |j
        ¦  «        sJ ‚|                     |¦  «        }t          ||¦  «         d S )Né   r©   r[  FéÐ  )rª   rv   rù   r   r   r…   r   r]   r\   )é   )ÚlenÚX4ro   rÞ   rß   Úaranger…   ÚY4r.   r   rŒ   rp   rú   Úsparsifyr+   ÚissparseÚpickleÚloadsÚdumps)rt   Únr  Úidxr1   r‘   r“   r8  s           r$   Útest_sgd_l1rx  4  s|  € õ 	�B‰Œ€AÝ
Œ)×
Ò
 Ñ
#Ô
#€CÝ
Œ)�A‰,Œ,€CØ‡K‚K�ÑÔÐå
ˆ3���ˆ6Œ
€AÝ
ˆ3Œ€Aà
ˆ%ØØØØØØðñ ô €Cð ‡G‚GˆAˆq�M„M€MÝ�s”y  A b D Ô)­2¬8°D©>¬>Ñ:Ô:Ð:Ø�;Š;�q‰>Œ>€DÝ�t˜QÑÔÐð ‡L‚L�N„N€NÝŒ;�s”yÑ!Ô!Ð!Ð!Ð!Ø�;Š;�q‰>Œ>€DÝ�t˜QÑÔÐõ Œ,•v”| CÑ(Ô(Ñ
)Ô
)€CÝŒ;�s”yÑ!Ô!Ð!Ð!Ð!Ø�;Š;�q‰>Œ>€DÝ�t˜QÑÔÐÐÐr&   c                 óÐ  — t          j        ddgddgddgddgddgg¦  «        }g d¢} | ddd	d ¬
¦  «        }|                     ||¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «          | ddd	ddi¬
¦  «        }|                     ||¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «         d S )NrÇ   r   çš™™™™™é¿rm   rk   ©r]   r]   r]   r\   r\   r  rÐ   F)rv   r   rù   r-  r[  r]   r‡   r\   ©ro   r    r.   r   rú   ©rt   r1   r2   r“   s       r$   Útest_class_weightsr~  Y  sö   € õ 	Œ�4˜�,  q 	¨D°$¨<¸#¸s¸ÀcÈ3ÀZÐPÑQÔQ€AØÐÐ€Aà
ˆ%�c D¸ÈDÐ
QÑ
QÔ
Q€CØ‡G‚GˆAˆq�M„M€MÝ�s—{’{ S¨$ K =Ñ1Ô1µ2´8¸Q¸C±=´=ÑAÔAÐAð ˆ%�c D¸ÈQÐPUÈJÐ
WÑ
WÔ
W€CØ‡G‚GˆAˆq�M„M€Mõ �s—{’{ S¨$ K =Ñ1Ô1µ2´8¸R¸D±>´>ÑBÔBÐBÐBÐBr&   c                 ó  — ddgddgddgddgg}g d¢} | ddd ¬¦  «        }|                      ||¦  «         ddgddgg}ddg} | dddddœ¬¦  «        }|                      ||¦  «         t          |j        |j        d	¬
¦  «         d S )Nr]   r   )r   r   r]   r]   r  rÐ   ©rv   r   r-  r`   rV  r^   r½   )r.   r   rŒ   )rt   r1   r2   r“   Úclf_weighteds        r$   Útest_equal_class_weightr‚  l  sÃ   € ð ˆQˆ�!�Q�˜!˜Q˜ ! Q Ð(€AØˆˆ€AØ
ˆ%�c D°tÐ
<Ñ
<Ô
<€CØ‡G‚GˆAˆq�M„M€Mà
ˆQˆ�!�Q�Ð€AØ	
ˆAˆ€AØ�5˜s¨TÀCÈCÐ@PÐ@PÐQÑQÔQ€LØ×Ò�Q˜ÑÔÐõ ˜œ	 <Ô#5¸qÐAÑAÔAÐAÐAÐAr&   c                 óÊ   —  | ddddi¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr  rÐ   r   r`   r€  r  rµ   s     r$   Útest_wrong_class_weight_labelr„  }  s£   € ð ˆ%�c D¸¸3°xÐ
@Ñ
@Ô
@€CÝ	Œ•zÑ	"Ô	"ð ð Ø�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   ª!AÁAÁAc                 ó.  — dddœ}t           j                             d¦  «        }|                     t          j        d         ¦  «        }t          j        |¦  «        }|t          dk    xx         |d         z  cc<   |t          dk    xx         |d         z  cc<    | dd|¬	¦  «        } | dd¬
¦  «        }|                     t          t          |¬¦  «         |                     t          t          |¬¦  «         t          |j
        |j
        ¦  «         d S )Ng333333ã?rZ  )r]   r^   r   r]   r^   r  r  r€  r&  ©Úsample_weight)ro   rÞ   rß   Úrandom_samplerp  rq   r�   r.   rn  r   rŒ   )rt   Úclass_weightsr  Úsample_weightsÚmultiplied_togetherrÂ   r”   s          r$   Útest_weights_multipliedrŒ  …  s  € ð  Ð$Ð$€MÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ×&Ò&¥r¤x°¤{Ñ3Ô3€NÝœ' .Ñ1Ô1ÐØ�˜ašÐ Ð Ô  M°!Ô$4Ñ4Ð Ð Ñ Ø�˜ašÐ Ð Ô  M°!Ô$4Ñ4Ð Ð Ñ àˆ5�s R°mÐDÑDÔD€DØˆ5�s RÐ(Ñ(Ô(€Dà‡H‚H�R• >€HÑ2Ô2Ð2Ø‡H‚H�R•Ð#6€HÑ7Ô7Ð7å˜œ
 D¤JÑ/Ô/Ð/Ð/Ð/r&   c                 óÌ  — t           j        t           j        }}t          |¦  «        }t	          j        |j        d         ¦  «        }t          j                             d¦  «        }| 	                    |¦  «         ||         }||         } | ddd d¬¦  «         
                    ||¦  «        }t          j        ||                     |¦  «        d¬¦  «        }t          |d	d
¬¦  «          | dddd¬¦  «         
                    ||¦  «        }t          j        ||                     |¦  «        d¬¦  «        }t          |d	d
¬¦  «         t          |j        |j        d¦  «         ||dk    d d …f         }||dk             }	t	          j        |g|gdz  z   ¦  «        }
t	          j        |g|	gdz  z   ¦  «        } | dd d¬¦  «        }| 
                    |
|¦  «         |                     |¦  «        }t          j        ||d¬¦  «        d	k     sJ ‚ | ddd¬¦  «        }| 
                    |
|¦  «         |                     |¦  «        }t          j        ||d¬¦  «        d	k    sJ ‚d S )Nr   é   rÆ   rÐ   F)rv   r   r-  r…   Úweightedr¸   rh   r]   r½   r,  rÛ   )r   r-  r…   )rÒ   rÓ   rÔ   r   ro   ro  rq   rÞ   rß   r…   r.   r   Úf1_scorerú   r   r   rŒ   ÚvstackÚconcatenate)rt   r1   r2   rw  r  r“   Úf1Úclf_balancedÚX_0Úy_0ÚX_imbalancedÚy_imbalancedÚy_preds                r$   Útest_balanced_weightrš  ˜  sn  € õ
 Œ9•d”k€q€AÝˆa‰Œ€AÝ
Œ)�A”G˜A”JÑ
Ô
€CÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ‡K‚K�ÑÔÐØ	ˆ#Œ€AØ	ˆ#Œ€AØ
ˆ%�f t¸$ÈÐ
NÑ
NÔ
N×
RÒ
RÐSTÐVWÑ
XÔ
X€CÝ	Ô	˜!˜SŸ[š[¨™^œ^°ZÐ	@Ñ	@Ô	@€BÝ˜˜D¨!Ð,Ñ,Ô,Ð,ð �5Ø˜t°*Àeðñ ô ç	‚cˆ!ˆQ�i„ið õ 
Ô	˜!˜\×1Ò1°!Ñ4Ô4¸jÐ	IÑ	IÔ	I€BÝ˜˜D¨!Ð,Ñ,Ô,Ð,õ ˜cœi¨Ô);¸QÑ?Ô?Ð?ð ˆA�ŠF�A�A�AˆIŒ,€CØ
ˆA�ŠFŒ)€Cå”9˜a˜S C 5¨2¡:Ñ-Ñ.Ô.€LÝ”> 1 #¨¨°©
Ñ"2Ñ3Ô3€Lð ˆ%˜¨D¸%Ð
@Ñ
@Ô
@€CØ‡G‚GˆL˜,Ñ'Ô'Ð'Ø�[Š[˜‰^Œ^€FÝÔ˜A˜v¨zÐ:Ñ:Ô:¸TÒAÐAÐAÐAð ˆ%˜¨JÀÐ
FÑ
FÔ
F€CØ‡G‚GˆL˜,Ñ'Ô'Ð'Ø�[Š[˜‰^Œ^€FÝÔ˜A˜v¨zÐ:Ñ:Ô:¸TÒAÐAÐAÐAÐAÐAr&   c                 óÆ  — t          j        ddgddgddgddgddgg¦  «        }g d¢} | ddd	¬
¦  «        }|                     ||¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «         |                     ||dgdz  dgdz  z   ¬¦  «         t          |                     ddgg¦  «        t          j        dg¦  «        ¦  «         d S )NrÇ   r   rz  rm   rk   r{  r  rÐ   F©rv   r   rù   r[  r]   r‡   r_   r^   r†  r\   r|  r}  s       r$   Útest_sample_weightsr�  Ç  sï   € õ 	Œ�4˜�,  q 	¨D°$¨<¸#¸s¸ÀcÈ3ÀZÐPÑQÔQ€AØÐÐ€Aà
ˆ%�c D¸Ð
>Ñ
>Ô
>€CØ‡G‚GˆAˆq�M„M€MÝ�s—{’{ S¨$ K =Ñ1Ô1µ2´8¸Q¸C±=´=ÑAÔAÐAð ‡G‚GˆAˆq  ¨!¡¨q¨c°A©gÑ 5€GÑ6Ô6Ð6õ �s—{’{ S¨$ K =Ñ1Ô1µ2´8¸R¸D±>´>ÑBÔBÐBÐBÐBr&   c                 óL  — | t           t          fv r | ddd¬¦  «        }n| t          t          fv r | ddd¬¦  «        }t	          j        t          ¦  «        5  |                     t          t          t          j        d¦  «        ¬¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr  rÐ   Frœ  )Únur   rù   rÈ   r†  )rR   rV   rM   rZ   r£   r¤   r¥   r.   r1   r‘   ro   ro  rµ   s     r$   Útest_wrong_sample_weightsr   Ù  sè   € ð
 •Õ 3Ð4Ð4Ð4Øˆe˜#¨¸EÐBÑBÔBˆˆØ	•>Õ#7Ð8Ð	8Ð	8Øˆe�s T¸Ð?Ñ?Ô?ˆå	Œ•zÑ	"Ô	"ð 2ð 2Ø�Š••1¥B¤I¨a¡L¤LˆÑ1Ô1Ð1ð2ð 2ð 2ñ 2ô 2ð 2ð 2ð 2ð 2ð 2ð 2ð 2øøøð 2ð 2ð 2ð 2ð 2ð 2s   Á5BÂBÂ Bc                 óÂ   —  | d¬¦  «        }t          j        t          ¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nrn   r‹   )r£   r¤   r¥   r7   rñ   rò   rµ   s     r$   Útest_partial_fit_exceptionr¢  ç  sœ   € à
ˆ%�dÐ
Ñ
Ô
€Cå	Œ•zÑ	"Ô	"ð  ð  Ø�Š��BÑÔÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  ð  ð  s   ¦!AÁAÁAc                 óÊ  — t           j        d         dz  } | d¬¦  «        }t          j        t          ¦  «        }|                     t           d |…         t          d |…         |¬¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚t          |j        j
        ¦  «        }|                     t           |d …         t          |d …         ¦  «         t          |j        j
        ¦  «        }|s
J |¦   «         ‚|                     t          ¦  «        }t          |t          ¦  «         d S )Nr   r_   rn   r‹   rº   r]   rF  )r1   rq   ro   rÀ   r‘   r7   rŒ   rŽ   r9   ÚidrÓ   rú   rû   r   rü   )rt   Úthirdr“   r»   Úid1Úid2r™  s          r$   Útest_partial_fit_binaryr¨  ï  s/  € åŒG�AŒJ˜!‰O€EØ
ˆ%�dÐ
Ñ
Ô
€CÝŒi�‰lŒl€Gà‡O‚O•A�f�u�f”I�q  % œy°'€OÑ:Ô:Ð:ØŒ9Œ?˜q¥!¤'¨!¤*˜oÒ-Ð-Ð-Ð-ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°DÒ8Ð8Ð8Ð8Ý
ˆSŒYŒ^Ñ
Ô
€Cà‡O‚O•A�e�f�f”I�q   œyÑ)Ô)Ð)Ý
ˆSŒYŒ^Ñ
Ô
€Cà€O€O��O„Oˆ3à�[Š[�‰^Œ^€FÝ�v�{Ñ+Ô+Ð+Ð+Ð+r&   c                 ól  — t           j        d         dz  } | d¬¦  «        }t          j        t          ¦  «        }|                     t           d |…         t          d |…         |¬¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚t          |j        j
        ¦  «        }|                     t           |d …         t          |d …         ¦  «         t          |j        j
        ¦  «        }|s
J |¦   «         ‚d S )	Nr   r_   rn   r‹   rº   r]   r  r2  )r(  rq   ro   rÀ   r4  r7   rŒ   rŽ   r9   r¤  rÓ   )rt   r¥  r“   r»   r¦  r§  s         r$   Útest_partial_fit_multiclassrª    s  € åŒH�QŒK˜1Ñ€EØ
ˆ%�dÐ
Ñ
Ô
€CÝŒi�‰mŒm€Gà‡O‚O•B�v˜�v”J¥ 6 E 6¤
°G€OÑ<Ô<Ð<ØŒ9Œ?˜q¥"¤(¨1¤+Ð.Ò.Ð.Ð.Ð.ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø× Ò  1 a & Ñ*Ô*Ô0°FÒ:Ð:Ð:Ð:Ý
ˆSŒYŒ^Ñ
Ô
€Cà‡O‚O•B�u�v�v”J¥ 5 6 6¤
Ñ+Ô+Ð+Ý
ˆSŒYŒ^Ñ
Ô
€Cà€O€O��O„Oˆ3€O€Or&   c                 ó8  — t           j        d         dz  } | dt           j        d         ¬¦  «        }t          j        t          ¦  «        }|                     t           d |…         t          d |…         |¬¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     t           |d …         t          |d …         ¦  «         |j        j        dt           j        d         fk    sJ ‚|j        j        dk    sJ ‚d S )Nr   r_   rn   )rv   r¯   rº   r]   r  )r(  rq   ro   rÀ   r4  r7   rŒ   rŽ   )rt   r¥  r“   r»   s       r$   Ú#test_partial_fit_multiclass_averager¬    s÷   € åŒH�QŒK˜1Ñ€EØ
ˆ%�d¥B¤H¨Q¤KÐ
0Ñ
0Ô
0€CÝŒi�‰mŒm€Gà‡O‚O•B�v˜�v”J¥ 6 E 6¤
°G€OÑ<Ô<Ð<ØŒ9Œ?˜q¥"¤(¨1¤+Ð.Ò.Ð.Ð.Ð.ØŒ>Ô 4Ò'Ð'Ð'Ð'à‡O‚O•B�u�v�v”J¥ 5 6 6¤
Ñ+Ô+Ð+ØŒ9Œ?˜q¥"¤(¨1¤+Ð.Ò.Ð.Ð.Ð.ØŒ>Ô 4Ò'Ð'Ð'Ð'Ð'Ð'r&   c                 óš   —  | ¦   «         }|                      t          t          ¦  «         |                     t          t          ¦  «         d S r*   )r.   r(  r4  r7   rµ   s     r$   Útest_fit_then_partial_fitr®  %  s:   € ð
 ˆ%‰'Œ'€CØ‡G‚G�B•�O„O€OØ‡O‚O•B�ÑÔÐÐÐr&   c                 óê  — t           t          t          ft          t          t
          ffD ]É\  }}} | ddd|d¬¦  «        }|                     ||¦  «         |                     |¦  «        }|j        }t          j
        |¦  «        } | dd|d¬¦  «        }t          d¦  «        D ]}	|                     |||¬¦  «         Œ|                     |¦  «        }
|j        |k    sJ ‚t          ||
d¬¦  «         ŒÊd S )Nrn   r^   F)rv   r„   r   r†   r…   ©rv   r„   r†   r…   rº   r½   )r1   r‘   rû   r(  r4  r5  r.   r9   r�   ro   rÀ   r¿   r7   r   )rt   r’   ÚX_r¦   ÚT_r“   r™  Útr»   r~   Úy_pred2s              r$   Ú"test_partial_fit_equal_fit_classifrµ  /  s	  € õ �1�a�y¥2¥r­2 ,Ð/ð >ð >‰
ˆˆB�Øˆe˜$ T°AÀRÐQVÐWÑWÔWˆØ�Š��B‰ŒˆØ×&Ò& rÑ*Ô*ˆØŒFˆå”)˜B‘-”-ˆØˆe˜$ T¸ÀUÐKÑKÔKˆÝ�q‘”ð 	5ð 	5ˆAØ�OŠO˜B ¨GˆOÑ4Ô4Ð4Ð4Ø×'Ò'¨Ñ+Ô+ˆàŒv˜Š{ˆ{ˆ{ˆ{Ý! &¨'¸1Ð=Ñ=Ô=Ð=Ð=ð>ð >r&   c                 ó˜  — t           j                             d¦  «        } | dddd|¬¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚ | dddd|¬¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚ | dd	|¬
¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚ | dddd|¬¦  «        }|                     t          t
          ¦  «         dt          j        |                     t          ¦  «        t
          k    ¦  «        k    sJ ‚d S )Nr]   rn   r—   r  Úepsilon_insensitive)rv   r†   r„   rÊ   r   rm   Úsquared_epsilon_insensitiveÚhuber)rv   rÊ   r   rÉ   )ro   rÞ   rß   r.   r1   r‘   rd  rú   )rt   r   r“   s      r$   Útest_regression_lossesrº  B  s”  € å”9×(Ò(¨Ñ+Ô+€LØ
ˆ%ØØ ØØ"Ø!ðñ ô €Cð ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.à
ˆ%ØØ ØØ*Ø!ðñ ô €Cð ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.à
ˆ%�d °|Ð
DÑ
DÔ
D€CØ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.à
ˆ%ØØ ØØØ!ðñ ô €Cð ‡G‚G�A�q�M„M€MØ•"”'˜#Ÿ+š+¥a™.œ.­AÒ-Ñ.Ô.Ò.Ð.Ð.Ð.Ð.Ð.r&   c                 ó>   — t          | t          t          d¦  «         d S )Nr˜   )r–   r(  r4  r  s    r$   Útest_warm_start_multiclassr¼  h  s   € å�U�B¥ IÑ.Ô.Ð.Ð.Ð.r&   c                 ó2  —  | dd¬¦  «        }|                      t          t          ¦  «         t          |d¦  «        sJ ‚d„ t	          ¦   «                              t          ¦  «        D ¦   «         }|                      t          d d …d d…f         |¦  «         d S )Nrn   FrŸ   rŒ   c                 ó"   — g | ]}d dg|         ‘ŒS )ÚhamÚspamr!   )rë   r~   s     r$   rì   z%test_multiple_fit.<locals>.<listcomp>u  s!   € ÐEÐEÐE ˆ%�ˆ˜Ô	ÐEÐEÐEr&   r\   )r.   r1   r‘   r´   r   Úfit_transform)rt   r“   r2   s      r$   Útest_multiple_fitrÂ  m  s‘   € ð ˆ%�d EÐ
*Ñ
*Ô
*€CØ‡G‚G�A�q�M„M€MÝ�3˜Ñ Ô Ð Ð Ð ð 	FÐE¥\¡^¤^×%AÒ%AÅ!Ñ%DÔ%DÐEÑEÔE€AØ‡G‚G�Aˆaˆaˆa��"�ˆfŒI�qÑÔÐÐÐr&   c                 ó    —  | ddd¬¦  «        }|                      ddgddgddggg d¢¦  «         |j        d         |j        d         k    sJ ‚d S )Nr  r^   Frœ  r   r]   )r   r]   r^   )r.   rŒ   rµ   s     r$   Útest_sgd_regrÄ  }  sh   € ð ˆ%�c A°UÐ
;Ñ
;Ô
;€CØ‡G‚Gˆa�ˆV�a˜�V˜a ˜VÐ$ i i iÑ0Ô0Ð0ØŒ9�QŒ<˜3œ9 Qœ<Ò'Ð'Ð'Ð'Ð'Ð'r&   c           
      ó´  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        }|                     |¬¦  «        }t          j        ||¦  «        } | dd||d	d
d	d¬¦  «        }	|	                     ||¦  «         t          | ||||¦  «        \  }
}t          |	j        |
d¬¦  «         t          |	j
        |d¬¦  «         d S )Nr‡   rn   r  rÛ   r   r  rÉ   r—   Tr]   Fr  r¼   r½   )ro   rÞ   rß   r  rs   r.   r‚   r   rŒ   r   rŽ   ©rt   ru   rv   r  r  r  r1   r   r2   r“   rz   r|   s               r$   Ú$test_sgd_averaged_computed_correctlyrÇ  …  sú   € ð €CØ€EØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€AØ�
Š
˜
ˆ
Ñ#Ô#€Aõ 	Œˆq�!‰Œ€Aà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cð ‡G‚GˆAˆq�M„M€MÝ)-¨e°Q¸¸3ÀÑ)FÔ)FÑ&€OÐ&å˜cœi¨À"ÐEÑEÔEÐEÝ˜œÐ(9À2ÐFÑFÔFÐFÐFÐFr&   c           
      óÌ  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        }|                     |¬¦  «        }t          j        ||¦  «        } | dd||d	d
d	d¬¦  «        }	|	                     |d t          |dz  ¦  «        …         d d …         |d t          |dz  ¦  «        …         ¦  «         |	                     |t          |dz  ¦  «        d …         d d …         |t          |dz  ¦  «        d …         ¦  «         t          | ||||¦  «        \  }
}t          |	j	        |
d¬¦  «         t          |	j        d         |d¬¦  «         d S )Nr‡   rn   r  rÛ   r   r  rÉ   r—   Tr]   Fr  r^   r¼   r½   )ro   rÞ   rß   r  rs   r7   Úintr‚   r   rŒ   r   rŽ   rÆ  s               r$   Útest_sgd_averaged_partial_fitrÊ  ¦  s„  € ð €CØ€EØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€AØ�
Š
˜
ˆ
Ñ#Ô#€Aõ 	Œˆq�!‰Œ€Aà
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cð ‡O‚O�AÐ*�˜I¨™MÑ*Ô*Ð*Ô+¨A¨A¨AÔ.°Ð2FµC¸	ÀA¹Ñ4FÔ4FÐ2FÔ0GÑHÔHÐHØ‡O‚O�A•c˜) a™-Ñ(Ô(Ð*Ð*Ô+¨A¨A¨AÔ.°µ#°iÀ!±mÑ2DÔ2DÐ2FÐ2FÔ0GÑHÔHÐHÝ)-¨e°Q¸¸3ÀÑ)FÔ)FÑ&€OÐ&å˜cœi¨À"ÐEÑEÔEÐEÝ˜œ qÔ)Ð+<ÀbÐIÑIÔIÐIÐIÐIr&   c           
      óT  — d}d} | dd||dddd¬¦  «        }t           j        d	         }|                     t          d t	          |d
z  ¦  «        …         d d …         t           d t	          |d
z  ¦  «        …         ¦  «         |                     t          t	          |d
z  ¦  «        d …         d d …         t           t	          |d
z  ¦  «        d …         ¦  «         t          | t          t           ||¦  «        \  }}t          |j        |d¬¦  «         t          |j	        |d¬¦  «         d S )Nr‡   rn   rÉ   r—   Tr]   Fr  r   r^   r¼   r½   )
rò   rq   r7   rñ   rÉ  r‚   r   rŒ   r   rŽ   )rt   ru   rv   r“   r  rz   r|   s          r$   Útest_average_sparserÌ  Ç  s/  € ð €CØ€EØ
ˆ%ØØ ØØØØØØð	ñ 	ô 	€Cõ ”˜”€Ià‡O‚O•BÐ+�˜Y¨™]Ñ+Ô+Ð+Ô,¨Q¨Q¨QÔ/µÐ4Hµc¸)Àa¹-Ñ6HÔ6HÐ4HÔ1IÑJÔJÐJØ‡O‚O•B•s˜9 q™=Ñ)Ô)Ð+Ð+Ô,¨Q¨Q¨QÔ/µµC¸	ÀA¹Ñ4FÔ4FÐ4HÐ4HÔ1IÑJÔJÐJÝ)-¨eµR½¸SÀ%Ñ)HÔ)HÑ&€OÐ&å˜cœi¨À"ÐEÑEÔEÐEÝ˜œÐ(9À2ÐFÑFÔFÐFÐFÐFr&   c                 ó`  — d\  }}d}t           j                             d¦  «        }t          j        |||¦  «                             |d¦  «        }d|                     ¦   «         z  } | dddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d|                     ¦   «         z  |                     |d¦  «                             ¦   «         z   } | dddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d S )N©éûÿÿÿr    r¹   r   r]   r`   rÉ   r  r  F)rÊ   rv   r   rù   rj   ©	ro   rÞ   rß   Úlinspacer  rË   r.   ÚscoreÚrandn©	rt   ÚxminÚxmaxr  r  r1   r2   r“   rÒ  s	            r$   Útest_sgd_least_squares_fitr×  â  s  € à�J€Dˆ$Ø€IÝ
Œ)×
Ò
 Ñ
"Ô
"€CÝ
Œ�D˜$ 	Ñ*Ô*×2Ò2°9¸aÑ@Ô@€Að 	ˆa�gŠg‰iŒi‰€Aà
ˆ%�_¨C¸"ÈEÐ
RÑ
RÔ
R€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�4Š<ˆ<ˆ<ˆ<ð 	ˆa�gŠg‰iŒi‰˜#Ÿ)š) I¨qÑ1Ô1×7Ò7Ñ9Ô9Ñ9€Aà
ˆ%�_¨C¸"ÈEÐ
RÑ
RÔ
R€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�3Š;ˆ;ˆ;ˆ;ˆ;ˆ;r&   c                 ód  — d\  }}d}t           j                             d¦  «        }t          j        |||¦  «                             |d¦  «        }d|                     ¦   «         z  } | dddd	d
¬¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d|                     ¦   «         z  |                     |d¦  «                             ¦   «         z   } | dddd	d
¬¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d S )NrÎ  r¹   r   r]   r`   r·  rn   r  r  F©rÊ   Úepsilonrv   r   rù   rj   rÐ  rÔ  s	            r$   Útest_sgd_epsilon_insensitiverÛ  ú  s=  € à�J€Dˆ$Ø€IÝ
Œ)×
Ò
 Ñ
"Ô
"€CÝ
Œ�D˜$ 	Ñ*Ô*×2Ò2°9¸aÑ@Ô@€Að 	ˆa�gŠg‰iŒi‰€Aà
ˆ%Ø"ØØØØðñ ô €Cð ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�4Š<ˆ<ˆ<ˆ<ð 	ˆa�gŠg‰iŒi‰˜#Ÿ)š) I¨qÑ1Ô1×7Ò7Ñ9Ô9Ñ9€Aà
ˆ%Ø"ØØØØðñ ô €Cð ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�3Š;ˆ;ˆ;ˆ;ˆ;ˆ;r&   c                 ód  — d\  }}d}t           j                             d¦  «        }t          j        |||¦  «                             |d¦  «        }d|                     ¦   «         z  } | ddddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d|                     ¦   «         z  |                     |d¦  «                             ¦   «         z   } | ddddd	¬
¦  «        }|                     ||¦  «         |                     ||¦  «        }|dk    sJ ‚d S )NrÎ  r¹   r   r]   r`   r¹  r  r  FrÙ  rj   rÐ  rÔ  s	            r$   Útest_sgd_huber_fitrÝ    s%  € à�J€Dˆ$Ø€IÝ
Œ)×
Ò
 Ñ
"Ô
"€CÝ
Œ�D˜$ 	Ñ*Ô*×2Ò2°9¸aÑ@Ô@€Að 	ˆa�gŠg‰iŒi‰€Aà
ˆ%�W c°¸rÐQVÐ
WÑ
WÔ
W€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�4Š<ˆ<ˆ<ˆ<ð 	ˆa�gŠg‰iŒi‰˜#Ÿ)š) I¨qÑ1Ô1×7Ò7Ñ9Ô9Ñ9€Aà
ˆ%�W c°¸rÐQVÐ
WÑ
WÔ
W€CØ‡G‚GˆAˆq�M„M€MØ�IŠI�a˜‰OŒO€EØ�3Š;ˆ;ˆ;ˆ;ˆ;ˆ;r&   c           	      óÐ  — d\  }}t           j                             d¦  «        }|                     ||¦  «        }|                     |¦  «        }t          j        ||¦  «        }dD ]~}dD ]y}t          j        ||d¬¦  «        }	|	                     ||¦  «          | dd||d¬	¦  «        }
|
                     ||¦  «         d
||fz  }t          |	j	        |
j	        d|¬¦  «         ŒzŒd S )N)rÐ   r    r   )rn   r‡   )r`   rf   rm   F)rv   Úl1_ratiorù   Ú
elasticneté2   )rª   r   rv   rß  rù   zNcd and sgd did not converge to comparable results for alpha=%f and l1_ratio=%fr^   )r¾   r  )
ro   rÞ   rß   rÓ  rs   r   Ú
ElasticNetr.   r   rŒ   )rt   r  r  r  r1   Úground_truth_coefr2   rv   rß  ÚcdÚsgdr  s               r$   Útest_elasticnet_convergenceræ  6  s3  € ð $Ñ€IˆzÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�	Š	�)˜ZÑ(Ô(€Að Ÿ	š	 *Ñ-Ô-ÐÝ
ŒˆqÐ#Ñ$Ô$€Að ð Qð QˆØ'ð 	Qð 	QˆHÝÔ(Ø h¸eðñ ô ˆBð �FŠF�1�a‰LŒLˆLØ�%Ø$ØØØ!Ø#ðñ ô ˆCð �GŠG�A�q‰MŒMˆMð7Ø:?ÀÐ9JñKð õ   ¤¨#¬)¸QÈÐPÑPÔPÐPÐPð#	QðQð Qr&   c                 ó4  — t           j        d         dz  } | d¬¦  «        }|                     t           d |…         t          d |…         ¦  «         |j        j        t           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚t          |j        j        ¦  «        }|                     t           |d …         t          |d …         ¦  «         t          |j        j        ¦  «        }|s
J |¦   «         ‚d S )Nr   r_   rn   r‹   r]   rF  )	r1   rq   r7   r‘   rŒ   rŽ   rú   r¤  rÓ   )rt   r¥  r“   r¦  r§  s        r$   Útest_partial_fitrè  X  sù   € åŒG�AŒJ˜!‰O€EØ
ˆ%�dÐ
Ñ
Ô
€Cà‡O‚O•A�f�u�f”I�q  % œyÑ)Ô)Ð)ØŒ9Œ?�qœw qœz˜mÒ+Ð+Ð+Ð+ØŒ>Ô 4Ò'Ð'Ð'Ð'Ø�;Š;˜˜A˜�xÑ Ô Ô&¨$Ò.Ð.Ð.Ð.Ý
ˆSŒYŒ^Ñ
Ô
€Cà‡O‚O•A�e�f�f”I�q   œyÑ)Ô)Ð)Ý
ˆSŒYŒ^Ñ
Ô
€Cà€O€O��O„Oˆ3€O€Or&   c                 óœ  —  | ddd|d¬¦  «        }|                      t          t          ¦  «         |                     t          ¦  «        }|j        } | dd|d¬¦  «        }t          d¦  «        D ]"}|                     t          t          ¦  «         Œ#|                     t          ¦  «        }|j        |k    sJ ‚t          ||d¬¦  «         d S )Nrn   r^   F)rv   r   r„   r†   r…   r°  r½   )	r.   r1   r‘   rú   rû   r�   r¿   r7   r   )rt   r’   r“   r™  r³  r~   r´  s          r$   Útest_partial_fit_equal_fitrê  i  sÂ   € ð ˆ%�d Q¨TÀÈUÐ
SÑ
SÔ
S€CØ‡G‚G�A�q�M„M€MØ�[Š[�‰^Œ^€FØŒ€Aà
ˆ%�d °RÀÐ
GÑ
GÔ
G€CÝ�1‰XŒXð ð ˆØ�Š��1ÑÔÐÐØ�kŠk�!‰nŒn€GàŒ6�QŠ;ˆ;ˆ;ˆ;Ý˜f g°qÐ9Ñ9Ô9Ð9Ð9Ð9r&   c                 ó|   —  | d¬¦  «        }|                      d¬¦  «         |j        d         d         dk    sJ ‚d S )Nre   )rÚ  r  r¹  r]   )r�   rK  rµ   s     r$   Útest_loss_function_epsilonrì  z  sL   € à
ˆ%˜Ð
Ñ
Ô
€CØ‡N‚N˜3€NÑÔÐØÔ˜gÔ& qÔ)¨SÒ0Ð0Ð0Ð0Ð0Ð0r&   c                 óð  — |€ t          j        |j        d         ¦  «        }n|}t          j        |j        d         ¦  «        }|}d|z
  }	d}
d}| t          k    rd}t	          |¦  «        D ]…\  }}t          j        ||¦  «        }||	z  }|dk    rd}nd}|t          dd||z  dz  z
  ¦  «        z  }|||z  |z   z  }|	|||z   z   |z  z  }	||z  }||z  }||dz   z  }|
|z  }
|
|	z  }
|
|dz   z  }
Œ†|d|
z
  fS )Nr]   rk   rm   rn   r\   r   r^   )ro   rp   rq   rZ   rr   rs   Úmax)rt   r1   ru   rŸ  r‰   r  Úcoefr>  Úoffsetr{   r|   r}   r~   r   r€   r�   s                   r$   Úasgd_oneclassrñ  †  sZ  € ØÐÝŒx˜œ œ
Ñ#Ô#ˆˆàˆå”8˜AœG AœJÑ'Ô'€LØ€FØ�F‘
€IØÐØ€Eð Õ$Ò$Ð$Øˆå˜a‘L”Lð %ð %‰ˆˆ5ÝŒF�5˜$ÑÔˆØ	ˆY‰ˆØ�Š8ˆ8ØˆHˆHàˆHØ•�A�s˜c B™h¨™lÑ+Ñ,Ô,Ñ,ˆØ�#˜‘. 5Ñ(Ð)Ñ)ˆØ�s˜b 8™mÑ,Ð-°Ñ5Ñ5ˆ	à˜ÑˆØ˜ÑˆØ˜˜C™Ñˆà˜QÑÐØ˜YÑ&ÐØ˜Q ™WÑ$ÐÐà˜Ð.Ñ.Ð.Ð.r&   c                 óH  —  | ddd|¬¦  «        }|                      |¦  «          | ddd|¬¦  «        }|                      ||j                             ¦   «         |j                             ¦   «         ¬¦  «          | dddd|¬¦  «        }|                      |¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         |                     d¬	¦  «         |                      |¦  «         |j        |j        k    sJ ‚t          |j        |j        ¦  «         d S )
Nr`   rn   F)rŸ  r„   r…   r†   r  ©r‰   r  T)rŸ  r„   r…   rŠ   r†   ©rŸ  )r.   rŒ   r�   rÁ   r�   r   r�   )rt   r1   r’   r“   r”   r•   s         r$   Ú_test_warm_start_oneclassrõ  ¬  s  € ð ˆ%�3˜T¨5ÀÐ
CÑ
CÔ
C€CØ‡G‚GˆA�J„J€Jàˆ5�C˜d¨EÀÐDÑDÔD€DØ‡H‚HˆQ˜#œ)Ÿ.š.Ñ*Ô*¸¼×8HÒ8HÑ8JÔ8J€HÑKÔKÐKð ˆ5�C˜d¨E¸dÐRTÐUÑUÔU€DØ‡H‚HˆQ�K„K€KàŒ7�c”fÒÐÐÐÝ�D”J ¤	Ñ*Ô*Ð*à‡O‚O�s€OÑÔÐØ‡H‚HˆQ�K„K€KàŒ7�d”gÒÐÐÐÝ�D”J ¤
Ñ+Ô+Ð+Ð+Ð+r&   c                 ó2   — t          | t          |¦  «         d S r*   )rõ  r1   rœ   s     r$   Útest_warm_start_oneclassr÷  Ã  s   € õ ˜e¥Q¨Ñ+Ô+Ð+Ð+Ð+r&   c                 ó  —  | d¬¦  «        }t          |¦  «        }|                     d¬¦  «         |                     t          ¦  «          | d¬¦  «        }|                     t          ¦  «         t	          |j        |j        ¦  «         d S )Nr`   rô  r  )r   r�   r.   r1   r   rŒ   r¬   s      r$   Útest_clone_oneclassrù  É  sy   € ð ˆ%�3ˆ-‰-Œ-€CÝ
�‰*Œ*€CØ‡N‚N�c€NÑÔÐØ‡G‚G�A�J„J€Jàˆ5�Cˆ=‰=Œ=€DØ‡H‚H�Q�K„K€Kå�s”y $¤*Ñ-Ô-Ð-Ð-Ð-r&   c                 óP  — t           j        d         dz  } | d¬¦  «        }|                     t           d |…         ¦  «         |j        j        t           j        d         fk    sJ ‚|j        j        dk    sJ ‚|                     ddgg¦  «        j        dk    sJ ‚|j        }|                     t           |d …         ¦  «         |j        |u sJ ‚t          j        t          ¦  «        5  |                     t           d d …df         ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr   r_   r  rô  r]   rF  )	r1   rq   r7   rŒ   rÁ   rú   r£   r¤   r¥   )rt   r¥  r“   Úprevious_coefss       r$   Útest_partial_fit_oneclassrü  ×  s[  € åŒG�AŒJ˜!‰O€EØ
ˆ%�3ˆ-‰-Œ-€Cà‡O‚O•A�f�u�f”IÑÔÐØŒ9Œ?�qœw qœz˜mÒ+Ð+Ð+Ð+ØŒ;Ô Ò$Ð$Ð$Ð$Ø�;Š;˜˜A˜�xÑ Ô Ô&¨$Ò.Ð.Ð.Ð.Ø”Y€Nà‡O‚O•A�e�f�f”IÑÔÐàŒ9˜Ð&Ð&Ð&Ð&õ 
Œ•zÑ	"Ô	"ð !ð !Ø�Š�˜!˜!˜!˜Q˜$œÑ Ô Ð ð!ð !ð !ñ !ô !ð !ð !ð !ð !ð !ð !ð !øøøð !ð !ð !ð !ð !ð !s   Ã)%DÄDÄ"Dc                 óò  —  | ddd|d¬¦  «        }|                      t          ¦  «         |                     t          ¦  «        }|j        }|j        }|j        } | ddd|d¬¦  «        }t          d¦  «        D ]}|                     t          ¦  «         Œ|                     t          ¦  «        }|j        |k    sJ ‚t          ||¦  «         t          |j        |¦  «         t          |j        |¦  «         d S )Nçš™™™™™©?r^   rn   F)rŸ  r   r„   r†   r…   r]   )rŸ  r„   r   r†   r…   )
r.   r1   r9   rû   r�   rŒ   rÁ   r¿   r7   r   )	rt   r’   r“   Úy_scoresr³  rï  rð  rÃ   Ú	y_scores2s	            r$   Ú#test_partial_fit_equal_fit_oneclassr  ë  sõ   € ð ˆ%�4 !¨$¸bÈ%Ð
PÑ
PÔ
P€CØ‡G‚G�A�J„J€JØ×$Ò$¥QÑ'Ô'€HØŒ€AØŒ9€DØŒ[€Fà
ˆ%�4˜d¨Q¸bÈ%Ð
PÑ
PÔ
P€CÝ�1‰XŒXð ð ˆØ�Š�ÑÔÐÐØ×%Ò%¥aÑ(Ô(€IàŒ6�QŠ;ˆ;ˆ;ˆ;Ý�H˜iÑ(Ô(Ð(Ý�C”I˜tÑ$Ô$Ð$Ý�C”K Ñ(Ô(Ð(Ð(Ð(r&   c                 óÈ  — d}d} | dd||dd¬¦  «        } | dd||dd¬¦  «        }|                      t          ¦  «         |                      t          ¦  «         t          | t          |||j                             ¦   «         |j        ¬	¦  «        \  }}t          |j                             ¦   «         |                     ¦   «         ¦  «         t          |j        |¦  «         d S )
Nr‡   rþ  rÈ   r—   r^   F)r¯   r†   r„   rŸ  r   r…   r]   ró  )r.   r1   rñ  rŒ   rË   rÁ   r   )rt   r„   rŸ  rÂ   r”   r>  Úaverage_offsets          r$   Ú*test_late_onset_averaging_reached_oneclassr     sú   € ð €DØ	€Bð ˆ5Ø °$¸2ÈÐSXðñ ô €Dð ˆ5ØØ ØØØØðñ ô €Dð 	‡H‚H�Q�K„K€KØ‡H‚H�Q�K„K€Kõ $1Ø�q�$˜ d¤j×&6Ò&6Ñ&8Ô&8ÀdÄlð$ñ $ô $Ñ €L�.õ �D”J×$Ò$Ñ&Ô&¨×(:Ò(:Ñ(<Ô(<Ñ=Ô=Ð=Ý�D”L .Ñ1Ô1Ð1Ð1Ð1r&   c           	      óP  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        } | d||dd	dd
¬¦  «        }|                     |¦  «         t          | |||¦  «        \  }}	t          |j        |¦  «         t          |j        |	¦  «         d S )Nr‡   rþ  r  rÛ   r   r  r—   Tr]   F©r†   r„   rŸ  rù   r   r¯   r…   )	ro   rÞ   rß   r  r.   rñ  r   rŒ   rÁ   ©
rt   ru   rŸ  r  r  r  r1   r“   r>  r  s
             r$   Ú-test_sgd_averaged_computed_correctly_oneclassr  !  sÃ   € ð €CØ	€BØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€Aà
ˆ%Ø ØØØØØØðñ ô €Cð ‡G‚GˆA�J„J€JÝ#0°¸¸3ÀÑ#CÔ#CÑ €L�.å�C”I˜|Ñ,Ô,Ð,Ý�C”K Ñ0Ô0Ð0Ð0Ð0r&   c           	      óú  — d}d}d}d}t           j                             d¦  «        }|                     ||f¬¦  «        } | d||dd	dd
¬¦  «        }|                     |d t          |dz  ¦  «        …         d d …         ¦  «         |                     |t          |dz  ¦  «        d …         d d …         ¦  «         t          | |||¦  «        \  }}	t          |j        |¦  «         t          |j	        |	¦  «         d S )Nr‡   rþ  r  rÛ   r   r  r—   Tr]   Fr  r^   )
ro   rÞ   rß   r  r7   rÉ  rñ  r   rŒ   rÁ   r  s
             r$   Ú&test_sgd_averaged_partial_fit_oneclassr
  <  s  € ð €CØ	€BØ€IØ€JÝ
Œ)×
Ò
 Ñ
"Ô
"€CØ�
Š
˜ JÐ/ˆ
Ñ0Ô0€Aà
ˆ%Ø ØØØØØØðñ ô €Cð ‡O‚O�AÐ*�˜I¨™MÑ*Ô*Ð*Ô+¨A¨A¨AÔ.Ñ/Ô/Ð/Ø‡O‚O�A•c˜) a™-Ñ(Ô(Ð*Ð*Ô+¨A¨A¨AÔ.Ñ/Ô/Ð/Ý#0°¸¸3ÀÑ#CÔ#CÑ €L�.å�C”I˜|Ñ,Ô,Ð,Ý�C”K Ñ0Ô0Ð0Ð0Ð0r&   c           	      ó¦  — d}d} | d||dddd¬¦  «        }t           j        d         }|                     t           d t          |d	z  ¦  «        …         ¦  «         |                     t           t          |d	z  ¦  «        d …         ¦  «         t	          | t           ||¦  «        \  }}t          |j        |¦  «         t          |j        |¦  «         d S )
Nr‡   rn   r—   Tr]   Fr  r   r^   )rñ   rq   r7   rÉ  rñ  r   rŒ   rÁ   )rt   ru   rŸ  r“   r  r>  r  s          r$   Útest_average_sparse_oneclassr  X  sÚ   € ð €CØ	€BØ
ˆ%Ø ØØØØØØðñ ô €Cõ ”˜”€Ià‡O‚O•BÐ+�˜Y¨™]Ñ+Ô+Ð+Ô,Ñ-Ô-Ð-Ø‡O‚O•B•s˜9 q™=Ñ)Ô)Ð+Ð+Ô,Ñ-Ô-Ð-Ý#0°½¸CÀÑ#DÔ#DÑ €L�.å�C”I˜|Ñ,Ô,Ð,Ý�C”K Ñ0Ô0Ð0Ð0Ð0r&   c                  ó¢  — t          j        ddgddgddgg¦  «        } t          j        ddgddgg¦  «        }t          ddddd¬¦  «        }|                     | ¦  «         t	          |j        t          j        d	d
g¦  «        ¦  «         |j        d         dk    sJ ‚|                     |¦  «        }t	          |t          j        ddg¦  «        ¦  «         |                     |¦  «        |j        z
  }t	          |                     |¦  «        |¦  «         | 	                    |¦  «        }t          |t          j        ddg¦  «        ¦  «         d S )Nr[   r\   r]   r`   r^   r—   F)rŸ  r„   r†   r…   r   g      À¿g      Ü?r   ra   g      î¿g      ä?)ro   r    rM   r.   r   rŒ   rÁ   Úscore_samplesr9   rú   r   )ÚX_trainÚX_testr“   ÚscoresÚdecr8  s         r$   Útest_sgd_oneclassr  q  sL  € õ Œh˜˜R˜ 2 r (¨Q°¨FÐ3Ñ4Ô4€GÝŒX˜˜R�y 1 a &Ð)Ñ*Ô*€FÝ
Ø�Q j¸%È!ðñ ô €Cð ‡G‚GˆGÑÔÐÝ�C”I�rœx¨°Ð(8Ñ9Ô9Ñ:Ô:Ð:ØŒ;�qŒ>˜TÒ!Ð!Ð!Ð!à×Ò˜vÑ&Ô&€FÝ�F�BœH g¨uÐ%5Ñ6Ô6Ñ7Ô7Ð7à
×
Ò
˜FÑ
#Ô
# c¤kÑ
1€CÝ�C×)Ò)¨&Ñ1Ô1°3Ñ7Ô7Ð7à�;Š;�vÑÔ€DÝ�t�RœX r¨1 gÑ.Ô.Ñ/Ô/Ð/Ð/Ð/r&   c                  ó¤  — d} d}d}t           j                             |¦  «        }d|                     dd¦  «        z  }t           j        |dz   |dz
  f         }d|                     dd¦  «        z  }t           j        |dz   |dz
  f         }t          |d| ¬	¦  «        }|                     |¦  «         |                     |¦  «        }|                     |¦  «         	                    d
d¦  «        }	d}
t          ||¬¦  «        }t          | dd|
|d ¬¦  «        }t          ||¦  «        }|                     |¦  «         |                     |¦  «        }|                     |¦  «         	                    d
d¦  «        }t          j        ||k    ¦  «        dk    sJ ‚t          j        t          j        |	|f¦  «        ¦  «        d         }|dk    sJ ‚d S )Nrþ  r  r   rZ  éô  r^   r¹   Úrbf)ÚgammaÚkernelrŸ  r]   r\   é   )r  r   T)rŸ  r…   rù   r   r   r   rj   rV  re   )ro   rÞ   rß   rÓ  Úr_r   r.   rú   r9   r  r
   rM   r   rd  Úcorrcoefr’  )rŸ  r  r   r  r1   r  r  r“   Úy_pred_ocsvmÚ	dec_ocsvmr   Ú	transformÚclf_sgdÚpipe_sgdÚy_pred_sgdocsvmÚdec_sgdocsvmr  s                    r$   Útest_ocsvm_vs_sgdocsvmr#  ‡  sÒ  € ð 
€BØ€EØ€Lõ Œ)×
Ò
 Ñ
-Ô
-€CØˆc�iŠi˜˜QÑÔÑ€AÝŒe�A˜‘E˜1˜q™5�LÔ!€GØˆc�iŠi˜˜QÑÔÑ€AÝŒU�1�q‘5˜!˜a™%�<Ô €Fõ ˜E¨%°BÐ
7Ñ
7Ô
7€CØ‡G‚GˆGÑÔÐØ—;’;˜vÑ&Ô&€LØ×%Ò% fÑ-Ô-×5Ò5°a¸Ñ<Ô<€Ið €HÝ˜u°<Ð@Ñ@Ô@€IÝØØØØØ!Øðñ ô €Gõ ˜Y¨Ñ0Ô0€HØ‡L‚L�ÑÔÐØ×&Ò& vÑ.Ô.€OØ×-Ò-¨fÑ5Ô5×=Ò=¸aÀÑDÔD€LåŒ7�? lÒ2Ñ3Ô3°tÒ;Ð;Ð;Ð;ÝŒ{�2œ>¨9°lÐ*CÑDÔDÑEÔEÀdÔK€HØ�sŠ?ˆ?ˆ?ˆ?ˆ?ˆ?r&   c                  óè  — t          j        dddd¬¦  «        \  } }t          ddd dd	d
¬¦  «                             | |¦  «        }t          dddd
d ¬¦  «                             | |¦  «        }t	          |j        |j        ¦  «         t          ddd ddd
¬¦  «                             | |¦  «        }t          dddd
d ¬¦  «                             | |¦  «        }t	          |j        |j        ¦  «         d S )NrÐ   r¹   r  iÒ  )r  r  Ún_informativer   r‡   rà  rŽ  g�Aòÿÿÿï?r   )rv   rª   r   r   rß  r   r©   )rv   rª   r   r   r   g»½×Ùß|Û=r«   )r   Úmake_classificationrR   r.   r   rŒ   )r1   r2   Úest_enÚest_l1Úest_l2s        r$   Útest_l1_ratior*  °  s.  € åÔ'Ø 3°bÀtðñ ô �D€A€qõ
 ØØØØØØðñ ô ÷ 
‚cˆ!ˆQ�i„ið õ Ø˜T¨A¸BÀDðñ ô ç	‚cˆ!ˆQ�i„ið õ ˜fœl¨F¬LÑ9Ô9Ð9õ ØØØØØØðñ ô ÷ 
‚cˆ!ˆQ�i„ið õ Ø˜T¨A¸BÀDðñ ô ç	‚cˆ!ˆQ�i„ið õ ˜fœl¨F¬LÑ9Ô9Ð9Ð9Ð9r&   c                  ó  — t          j        d¬¦  «        5  t           j                             d¦  «        } d}d}|                      ||f¬¦  «        }|d d …d d…fxx         dz  cc<   t          j        |¦  «                             ¦   «         sJ ‚t          ¦   «                              |¦  «        }t          j        |¦  «                             ¦   «         sJ ‚|                      |¬¦  «        }t          j	        ||¦  «        d	k     
                    t           j        ¦  «        }t          t          j        |¦  «        dd
g¦  «         t          ddd¬¦  «        }|                     ||¦  «         t          j        |j        ¦  «                             ¦   «         sJ ‚d}t#          j        t&          |¬¦  «        5  |                     ||¦  «         d d d ¦  «         n# 1 swxY w Y   d d d ¦  «         d S # 1 swxY w Y   d S )NÚraise©r`  r   r¹   rÛ   r  r^   gœu ˆ<ä7~rk   r]   r  rö   r  )rv   rÊ   r   zwFloating-point under-/overflow occurred at epoch #.* Scaling input data with StandardScaler or MinMaxScaler might help.rÿ   )ro   r]  rÞ   rß   r  Úisfiniter`  r   rÁ  rs   ÚastypeÚint32r   rÀ   rR   r.   rŒ   r£   r¤   r¥   )	r  r  r  r1   ÚX_scaledÚground_truthr2   ÚmodelÚ	msg_regxps	            r$   Útest_underflow_or_overlowr5  Ó  sZ  € Ý	Œ˜Ð	!Ñ	!Ô	!ð "ð "åŒi×#Ò# AÑ&Ô&ˆØˆ	Øˆ
à�JŠJ˜Y¨
Ð3ˆJÑ4Ô4ˆØ	ˆ!ˆ!ˆ!ˆRˆaˆRˆ%ˆˆŒ�EÑˆˆ‰ÝŒ{˜1‰~Œ~×!Ò!Ñ#Ô#Ð#Ð#Ð#õ
  ‘>”>×/Ò/°Ñ2Ô2ˆÝŒ{˜8Ñ$Ô$×(Ò(Ñ*Ô*Ð*Ð*Ð*ð —z’z z�zÑ2Ô2ˆÝŒV�H˜lÑ+Ô+¨cÒ1×9Ò9½"¼(ÑCÔCˆÝ�2œ9 Q™<œ<¨!¨Q¨Ñ0Ô0Ð0å C¨oÈÐLÑLÔLˆð 	�	Š	�(˜AÑÔÐÝŒ{˜5œ;Ñ'Ô'×+Ò+Ñ-Ô-Ð-Ð-Ð-ðð 	õ
 Œ]�:¨YÐ7Ñ7Ô7ð 	ð 	Ø�IŠI�a˜‰OŒOˆOð	ð 	ð 	ñ 	ô 	ð 	ð 	ð 	ð 	ð 	ð 	øøøð 	ð 	ð 	ð 	ðC"ð "ð "ñ "ô "ð "ð "ð "ð "ð "ð "ð "øøøð "ð "ð "ð "ð "ð "s6   –F%G6Æ;GÇG6ÇG"	Ç"G6Ç%G"	Ç&G6Ç6G:Ç=G:c                  ó>  — t          ddddddddd ¬	¦	  «	        } t          j        d
¬¦  «        5  |                      t          j        t          j        ¦  «         d d d ¦  «         n# 1 swxY w Y   t          j        | j        ¦  «         	                    ¦   «         sJ ‚d S )Nrö   rÛ   Trà  rZ  rn   r‡   r   )	rÊ   r   r…   rª   rß  rv   r„   r   r   r,  r-  )
rR   ro   r]  r.   rÒ   rÓ   rÔ   r.  rŒ   r`  )r3  s    r$   Ú'test_numerical_stability_large_gradientr7  ù  sß   € õ ØØØØØØØØØð
ñ 
ô 
€Eõ 
Œ˜Ð	!Ñ	!Ô	!ð *ð *Ø�	Š	•$”)�Tœ[Ñ)Ô)Ð)ð*ð *ð *ñ *ô *ð *ð *ð *ð *ð *ð *øøøð *ð *ð *ð *åŒ;�u”{Ñ#Ô#×'Ò'Ñ)Ô)Ð)Ð)Ð)Ð)Ð)s   ®+A%Á%A)Á,A)rª   )r«   r©   rà  c           	      ó8  — t          ddd| dd d¬¦  «        }t          j        d¬¦  «        5  |                     t          j        t          j        ¦  «         d d d ¦  «         n# 1 swxY w Y   t          |j        t          j	        |j        ¦  «        ¦  «         d S )	Ng     jø@r—   r  FrŽ  )rv   r†   r„   rª   r…   r   r   r,  r-  )
rR   ro   r]  r.   rÒ   rÓ   rÔ   r   rŒ   Ú
zeros_like)rª   r3  s     r$   Útest_large_regularizationr:    sÓ   € õ ØØ ØØØØØðñ ô €Eõ 
Œ˜Ð	!Ñ	!Ô	!ð *ð *Ø�	Š	•$”)�Tœ[Ñ)Ô)Ð)ð*ð *ð *ñ *ô *ð *ð *ð *ð *ð *ð *øøøð *ð *ð *ð *å˜eœk­2¬=¸¼Ñ+EÔ+EÑFÔFÐFÐFÐFs   ¬+A#Á#A'Á*A'c                  óÔ  — t          ¦   «                              t          j        ¦  «        } t          j        dk    }d}t          d d|¬¦  «        }|                     | |¦  «         ||j        k    sJ ‚d}t          dd|¬¦  «        }|                     | |¦  «         ||j        k    sJ ‚|j        dk    sJ ‚t          dd|¬¦  «        }|                     | |¦  «         |j        |j        k    sJ ‚|j        dk    sJ ‚t          dd	d¬
¦  «        }d}t          j	        t          |¬¦  «        5  |                     | |¦  «         d d d ¦  «         n# 1 swxY w Y   |j        dk    sJ ‚d S )Nr]   r   r   )r   r   r   rk  r    r  r_   r‡   )r   r   r   zhMaximum number of iteration reached before convergence. Consider increasing max_iter to improve the fit.rÿ   )r   rÁ  rÒ   rÓ   rÔ   rR   r.   rÕ   r£   Úwarnsr	   )r1   r2   r   Úmodel_0Úmodel_1Úmodel_2Úmodel_3Úwarning_messages           r$   Útest_tol_parameterrB    sÌ  € åÑÔ×&Ò&¥t¤yÑ1Ô1€AÝŒ�qÒ€Að €HÝ °1¸xÐHÑHÔH€GØ‡K‚K��1ÑÔÐØ�w”Ò&Ð&Ð&Ð&ð €HÝ °¸HÐEÑEÔE€GØ‡K‚K��1ÑÔÐØ�g”oÒ%Ð%Ð%Ð%ØŒ?˜QÒÐÐÐõ  °!¸hÐGÑGÔG€GØ‡K‚K��1ÑÔÐØŒ?˜Wœ_Ò,Ð,Ð,Ð,ØŒ?˜QÒÐÐÐõ  Q¨D¸qÐAÑAÔA€Gð	ð õ
 
ŒÕ(°Ð	@Ñ	@Ô	@ð ð Ø�Š�A�qÑÔÐðð ð ñ ô ð ð ð ð ð ð øøøð ð ð ð àŒ?˜aÒÐÐÐÐÐs   Ä-EÅEÅEc                 óª   — |D ]O\  }}}}t          |                      ||¦  «        |¦  «         t          |                      ||¦  «        |¦  «         ŒPd S r*   )r   Úpy_lossÚpy_dloss)Úloss_functionÚcasesr€   r2   Úexpected_lossÚexpected_dlosss         r$   Ú_test_loss_commonrJ  B  sm   € ð 05ð Jð JÑ+ˆˆ1ˆm˜^Ý˜M×1Ò1°!°QÑ7Ô7¸ÑGÔGÐGÝ˜M×2Ò2°1°aÑ8Ô8¸.ÑIÔIÐIÐIðJð Jr&   c                  ó¦   — t          j        d¦  «        } g d¢}t          | |¦  «         t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nrm   ))gš™™™™™ñ?rm   rk   rk   ©ç       ÀrÇ   rk   rk   )rm   rm   rk   rÇ   )rÇ   rÇ   rk   rm   )r`   rm   r`   rÇ   )r  rÇ   ç      @rm   )ra   rÇ   r`   rm   )rk   rm   r]   rÇ   rk   )©rm   rm   rk   rk   )rY  rÇ   rk   rk   )rk   rm   rk   rÇ   )rk   rÇ   rk   rm   )r`   rÇ   r`   rm   )r  rÇ   r  rm   )ra   rm   r`   rÇ   )rÇ   rm   rm   rÇ   )Úsgd_fastÚHingerJ  ©rÊ   rG  s     r$   Útest_loss_hingerS  J  sp   € õ Œ>˜#ÑÔ€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"õ Œ>˜#ÑÔ€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r&   c                  óV   — t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nrm   )rO  rL  )rm   rÇ   ç      @rU  ©rÇ   rm   rU  ç      À)r`   rm   g      Ð?rÇ   ©r`   rÇ   g      @rN  )rP  ÚSquaredHingerJ  rR  s     r$   Útest_gradient_squared_hingerZ  k  s;   € åÔ  Ñ%Ô%€Dðð ð €Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r&   c                  óT   — t          j        ¦   «         } g d¢}t          | |¦  «         d S )N)rO  )rÇ   rÇ   rk   rk   )r  rm   rk   rk   )rk   rm   rm   rM  rV  rX  )rM  rm   é   rW  )g      Àrm   é   rW  )rP  ÚModifiedHuberrJ  rR  s     r$   Útest_loss_modified_huberr_  z  s9   € åÔ!Ñ#Ô#€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r&   c                  óV   — t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nr  )©rk   rk   rk   rk   ©r  rk   rk   rk   ©gffffff ÀrM  rk   rk   ©gffffff@rN  rk   rk   )çš™™™™™@r  r  rm   )r  rÇ   ç333333@rm   )r  re  r  rÇ   )rM  rm   rf  rÇ   )rP  ÚEpsilonInsensitiverJ  rR  s     r$   Útest_loss_epsilon_insensitiverh  ‹  s;   € åÔ& sÑ+Ô+€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r&   c                  óV   — t          j        d¦  «        } g d¢}t          | |¦  «         d S )Nr  )ra  rb  rc  rd  )re  r  rn   r[  )r  rÇ   çR¸…ëÑ @g333333@)r  re  rn   gš™™™™™É¿)rM  rm   rj  g333333À)rP  ÚSquaredEpsilonInsensitiverJ  rR  s     r$   Ú%test_loss_squared_epsilon_insensitiverl  œ  s;   € åÔ-¨cÑ2Ô2€Dð
ð 
ð 
€Eõ �d˜EÑ"Ô"Ð"Ð"Ð"r&   c            	      ó4  — t          ddddddd¬¦  «        } |                      t          j        t          j        ¦  «         | j        | j        k    sJ ‚| j        | j        dz   k     sJ ‚|                      t          j        t          j        ¦  «        d	k    sJ ‚d S )
Nr‡   rÐ   Tr¹   r   r^   )rv   r   r   rÑ   rê   r   rC  r  rf   )rR   r.   rÒ   rÓ   rÔ   rÕ   rê   rÒ  )r“   s    r$   Ú0test_multi_thread_multi_class_and_early_stoppingrn  ­  s¡   € õ ØØØØØØØðñ ô €Cð ‡G‚G�DŒI•t”{Ñ#Ô#Ð#ØŒ;˜Ô-Ò-Ð-Ð-Ð-ØŒ;˜Ô-°Ñ2Ò2Ð2Ð2Ð2Ø�9Š9•T”Y¥¤Ñ,Ô,¨sÒ2Ð2Ð2Ð2Ð2Ð2r&   c                  óø   — t          j        ddd¦  «        g d¢dœ} t          dddd	¬
¦  «        }t          || ddd	¬¦  «        }|                     t
          j        t
          j        ¦  «         |j        dk    sJ ‚d S )Néüÿÿÿrl  r'  )r    rÛ   rá  )rv   rê   rn   rÐ   Tr   )r   r   rÑ   r   r    r^   )Ún_iterrC  r   rf   )	ro   ÚlogspacerR   r   r.   rÒ   rÓ   rÔ   Úbest_score_)Ú
param_gridr“   Úsearchs      r$   Ú-test_multi_core_gridsearch_and_early_stoppingrv  ¿  sŒ   € õ
 ”˜R  AÑ&Ô&Ø'˜K˜Kðð €Jõ
 ˜D¨4ÀÐSTÐ
UÑ
UÔ
U€CÝ  Z¸À!ÐRSÐTÑTÔT€FØ
‡J‚J�tŒy�$œ+Ñ&Ô&Ð&ØÔ Ò#Ð#Ð#Ð#Ð#Ð#r&   Úbackend)ÚlokyÚmultiprocessingÚ	threadingc                 óÐ  — t           j                             d¦  «        }t          j        dddd|¬¦  «        }|                     dd¦  «        }t          dd	d¬
¦  «        }|                     ||¦  «         t          ddd¬
¦  «        }t          j        | ¬¦  «        5  |                     ||¦  «         d d d ¦  «         n# 1 swxY w Y   t          |j
        |j
        ¦  «         d S )Nr   r  rk  g{®Gáz”?Úcsr)ÚdensityrL  r   r  rÐ   r]   )r   rC  r   rl  )rw  )ro   rÞ   rß   r+   ÚchoicerR   r.   ÚjoblibÚparallel_backendr   rŒ   )rw  r   r1   r2   Úclf_sequentialÚclf_parallels         r$   Ú'test_SGDClassifier_fit_for_all_backendsrƒ  Î  s'  € õ  ”9×(Ò(¨Ñ,Ô,€Lõ
 	Œ	�#�t T°%ÀlÐSÑSÔS€AØ×Ò˜B Ñ$Ô$€Aõ #¨D¸ÈÐLÑLÔL€NØ×Ò�q˜!ÑÔÐõ !¨$°qÀrÐJÑJÔJ€LÝ	Ô	 ¨Ð	1Ñ	1Ô	1ð ð Ø×Ò˜˜AÑÔÐðð ð ñ ô ð ð ð ð ð ð øøøð ð ð ð å˜nÔ2°LÔ4FÑGÔGÐGÐGÐGs   ÂCÃCÃCÚ	Estimatorc                 óv  — | t           j        k    rt          j        |¬¦  «        \  }}nt          j        |¬¦  «        \  }} | |d¬¦  «        }t          j        t          ¦  «        5  |                     ||¦  «        j	        }|j
        dk    sJ ‚	 d d d ¦  «         n# 1 swxY w Y    | |d¬¦  «        }t          j        t          ¦  «        5  |                     ||¦  «        j	        }|j
        dk    sJ ‚	 d d d ¦  «         n# 1 swxY w Y   t          ||¦  «          | |dz   d¬¦  «        }t          j        t          ¦  «        5  |                     ||¦  «        j	        }|j
        dk    sJ ‚	 d d d ¦  «         n# 1 swxY w Y   t          j        ||z
  ¦  «                             ¦   «         dk    sJ ‚d S )N)r   r]   )r   r   rm   )r   rD   r   Úmake_regressionr&  r£   r<  r	   r.   rŒ   rÕ   r   ro   Úabsrî  )r„  Úglobal_random_seedr1   r2   ÚestÚcoef_same_seed_aÚcoef_same_seed_bÚcoef_other_seeds           r$   Útest_sgd_random_stater�  ò  s‰  € ð •LÔ-Ò-Ð-ÝÔ'Ð5GÐHÑHÔH‰ˆˆ1ˆ1åÔ+Ð9KÐLÑLÔL‰ˆˆ1ð
 ˆ)Ð!3¸aÐ
@Ñ
@Ô
@€CÝ	ŒÕ(Ñ	)Ô	)ð  ð  ØŸ7š7 1 a™=œ=Ô.ÐØŒ{˜aÒÐÐÐÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  ð ˆ)Ð!3¸aÐ
@Ñ
@Ô
@€CÝ	ŒÕ(Ñ	)Ô	)ð  ð  ØŸ7š7 1 a™=œ=Ô.ÐØŒ{˜aÒÐÐÐÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  õ Ð$Ð&6Ñ7Ô7Ð7ð ˆ)Ð!3°aÑ!7À!Ð
DÑ
DÔ
D€CÝ	ŒÕ(Ñ	)Ô	)ð  ð  ØŸ'š' ! Q™-œ-Ô-ˆØŒ{˜aÒÐÐÐÐð ð  ð  ñ  ô  ð  ð  ð  ð  ð  ð  øøøð  ð  ð  ð  õ Œ6Ð" _Ñ4Ñ5Ô5×9Ò9Ñ;Ô;¸cÒAÐAÐAÐAÐAÐAs6   Á()BÂB"Â%B"Ã)DÄD	ÄD	Å	)E?Å?FÆFc                 óØ  — t           j        t           j        }}|j        d         }d}t	          j        ddd|¬¦  «        }t          t          j        ¬¦  «        }|  	                    t          d|¦  «         | 
                    ||¦  «         |j        d         d	d
…         \  }}|j        d         t          ||z  ¦  «        k    sJ ‚|j        d         t          ||z  ¦  «        k    sJ ‚dS )ziTest that data passed to validation callback correctly subsets.

    Non-regression test for #23255.
    r   r[  Tr‡   rÐ   )rÑ   r   r   rÜ   )Úside_effectÚ_ValidationScoreCallbackr]   r_   N)rÒ   rÓ   rÔ   rq   r   rR   r   r   r�  Úsetattrr.   Ú	call_argsrÉ  )	Úmonkeypatchr1   r‘   r  rÜ   r“   ÚmockÚX_valÚy_vals	            r$   Ú&test_validation_mask_correctly_subsetsr—    sï   € õ
 Œ9•d”k€q€AØ”˜”
€IØÐÝ
Ô
$ØØØØ/ð	ñ ô €Cõ Õ0ÔIÐJÑJÔJ€DØ×ÒÕ,Ð.HÈ$ÑOÔOÐOØ‡G‚GˆAˆq�M„M€Mà”> !Ô$ Q q SÔ)�L€Eˆ5ØŒ;�qŒ>�S Ð-@Ñ!@ÑAÔAÒAÐAÐAÐAØŒ;�qŒ>�S Ð-@Ñ!@ÑAÔAÒAÐAÐAÐAÐAÐAr&   c                  ó,  — t           j        t           j        }} t          j        |¦  «        }d}t          j        d|d¬¦  «        }d}t          j        t          |¬¦  «        5  | 
                    | ||¬¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )NrÚ   Tr   )rÑ   rÜ   r   z\The sample weights for validation set are all zero, consider using a different random state.rÿ   r†  )rÒ   rÓ   rÔ   ro   r9  r   rR   r£   r¤   r¥   r.   )r1   r‘   r‡  rÜ   r“   Úerror_messages         r$   Ú(test_sgd_error_on_zero_validation_weightrš  0  sã   € õ Œ9•d”k€q€AÝ”M !Ñ$Ô$€MØÐå
Ô
$ØÐ1DÐSTðñ ô €Cð
	#ð õ 
Œ•z¨Ð	7Ñ	7Ô	7ð 3ð 3Ø�Š��1 MˆÑ2Ô2Ð2ð3ð 3ð 3ñ 3ô 3ð 3ð 3ð 3ð 3ð 3ð 3ð 3øøøð 3ð 3ð 3ð 3ð 3ð 3s   Á#B	Â	BÂBc                 óZ   —  | d¬¦  «                              t          t          ¦  «         dS )z!non-regression test for gh #25249r]   )ÚverboseN)r.   r1   r‘   )r„  s    r$   Útest_sgd_verboser�  C  s-   € ð €I�aÐÑÔ×Ò�Q¥Ñ"Ô"Ð"Ð"Ð"r&   ÚSGDEstimatorÚ	data_typec                 óÔ   — t                                |¦  «        }t          j        t          |¬¦  «        } | ¦   «         }|                     ||¦  «         |j        j        |k    sJ ‚d S )N©Údtype)r1   r/  ro   r    r‘   r.   rŒ   r¢  )rž  rŸ  Ú_XÚ_YÚ	sgd_models        r$   Útest_sgd_dtype_matchr¦  I  sd   € õ 
�Š�)Ñ	Ô	€BÝ	Œ•!˜9Ð	%Ñ	%Ô	%€BØ�‘”€IØ‡M‚M�"�bÑÔÐØŒ?Ô  IÒ-Ð-Ð-Ð-Ð-Ð-r&   c                 óê  — t                                t          j        ¬¦  «        }t          j        t
          t          j        ¬¦  «        }t                                t          j        ¬¦  «        }t          j        t
          t          j        ¬¦  «        } | d¬¦  «        }|                     ||¦  «          | d¬¦  «        }|                     ||¦  «         t          |j	        |j	        ¦  «         d S )Nr¡  r  )r   )
r1   r/  ro   Úfloat64r    r‘   Úfloat32r.   r   rŒ   )rž  ÚX_64ÚY_64ÚX_32ÚY_32Úsgd_64Úsgd_32s          r$   Útest_sgd_numerical_consistencyr°  ]  sÀ   € õ �8Š8�"œ*ˆ8Ñ%Ô%€DÝŒ8•A�RœZÐ(Ñ(Ô(€Då�8Š8�"œ*ˆ8Ñ%Ô%€DÝŒ8•A�RœZÐ(Ñ(Ô(€Dàˆ\ 2Ð&Ñ&Ô&€FØ
‡J‚Jˆt�TÑÔÐàˆ\ 2Ð&Ñ&Ô&€FØ
‡J‚Jˆt�TÑÔÐå�F”L &¤,Ñ/Ô/Ð/Ð/Ð/r&   c                 óÆ   —  | d¬¦  «        }t          j        t          d¬¦  «        5  |                     t          t
          ¦  «         d d d ¦  «         d S # 1 swxY w Y   d S )Nr   r¸   z	average=0rÿ   )r£   r<  ÚFutureWarningr.   r1   r‘   )r„  r‰  s     r$   Ú*test_passive_aggressive_deprecated_averager³  y  sž   € à
ˆ)˜AÐ
Ñ
Ô
€CÝ	Œ•m¨;Ð	7Ñ	7Ô	7ð ð Ø�Š••1‰Œˆðð ð ñ ô ð ð ð ð ð ð ð øøøð ð ð ð ð ð s   ¨!AÁAÁAc                  óV   — t          ¦   «         } t          | ¦  «        j        dk    sJ ‚dS )z}Check that SGDOneClassSVM has the correct estimator type.

    Non-regression test for if the mixin was not on the left.
    Úoutlier_detectorN)rM   r   Úestimator_type)Ú	sgd_ocsvms    r$   Ú%test_sgd_one_class_svm_estimator_typer¸  €  s2   € õ
 Ñ Ô €IÝ�IÑÔÔ-Ð1CÒCÐCÐCÐCÐCÐCr&   )Nrk   )©rs  Úunittest.mockr   r  Únumpyro   r£   Úscipy.sparseÚsparser+   Úsklearnr   r   r   Úsklearn.baser   r   Úsklearn.exceptionsr	   Úsklearn.kernel_approximationr
   Úsklearn.linear_modelr   rP  r   Úsklearn.model_selectionr   r   r   Úsklearn.pipeliner   Úsklearn.preprocessingr   r   r   r   Úsklearn.svmr   Úsklearn.utilsr   Úsklearn.utils._testingr   r   r   r   r%   rR   r(   rD   rB   rM   rK   rV   rX   rZ   r    r1   r‘   rû   rü   r(  r4  r5  r6  rñ   rò   rn  rp  Ú	load_irisrÒ   r  r  Útrue_result5r‚   r–   ÚmarkÚparametrizer�   r§   r­   r¶   rÄ   rÍ   rÖ   rØ   rç   rï   ró   rý   r  rp   r
  r  r  r!  r$  r*  r/  r9  r?  rA  rD  rG  rT  rh  rx  r~  r‚  r„  rŒ  rš  r�  r   r¢  r¨  rª  r¬  r®  rµ  rº  r¼  rÂ  rÄ  rÇ  rÊ  rÌ  r×  rÛ  rÝ  ræ  rè  rê  rì  rñ  rõ  r÷  rù  rü  r  r  r  r
  r  r  r#  r*  r5  r7  r:  rB  rJ  rS  rZ  r_  rh  rl  rn  rv  rƒ  r�  r—  rš  r�  r©  r¨  r¦  r°  r³  r¸  r!   r&   r$   ú<module>rÌ     s®  ðØ €€€Ø Ð Ð Ð Ð Ð à €€€Ø Ð Ð Ð Ø €€€Ø Ð Ð Ð Ð Ð à 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ð 3Ø -Ð -Ð -Ð -Ð -Ð -Ð -Ð -Ø 1Ð 1Ð 1Ð 1Ð 1Ð 1Ø 1Ð 1Ð 1Ð 1Ð 1Ð 1Ø 6Ð 6Ð 6Ð 6Ð 6Ð 6Ø 5Ð 5Ð 5Ð 5Ð 5Ð 5ðð ð ð ð ð ð ð ð ð ð
 +Ð *Ð *Ð *Ð *Ð *Ø SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SÐ SØ #Ð #Ð #Ð #Ð #Ð #Ø "Ð "Ð "Ð "Ð "Ð "ðð ð ð ð ð ð ð ð ð ð ð ðð ð ð(ð (ð (ð (ð (˜<Ô5ñ (ô (ð (ð$Qð Qð Qð Qð Q˜,Ô3ñ Qô Qð QðSð Sð Sð Sð S˜LÔ7ñ Sô Sð Sð0ð 0ð 0ð
/ð /ð /ð
1ð 1ð 1ð
*ð *ð *ð
)ð )ð )ð
+ð +ð +ð €B„Hˆr�2ˆh˜˜R˜ 2 r (¨Q°¨F°Q¸°F¸QÀ¸FÐCÑDÔD€ØÐÐ€Ø€B„Hˆr�2ˆh˜˜A˜  A Ð'Ñ(Ô(€Øˆiˆi€ð €R„Xà	ˆQˆØ	�ˆØ	ˆsˆØ	
ˆAˆØ	ˆsˆØ	ˆcˆ
Ø	ˆRˆØ	
ˆDˆ	Ø	
ˆBˆð
ñô €ð €Wˆq�[�E�7˜Q‘;Ñ ' ¨Q¡Ñ.€Ø€R„X��cˆ{˜Q ˜F Q¨ GÐ,Ñ-Ô-€Ø&Ð&Ð&€ð €R„XàÐÐØÐÐØÐÐØÐÐØÐÐØÐÐØÐÐØÐÐð	ñô €ð €R„XÐ&Ð&Ð&Ñ'Ô'€ð €R„XàÐÐØ Ð Ð Ø Ð Ð Ø Ð Ð Ø Ð Ð Ø Ð Ð Ø Ð Ð ØÐÐð	ñô €ð €R„XÐ&Ð&Ð&Ñ'Ô'€à€xÔÑÔ€ð €R„X��Bˆx˜"˜b˜ B¨ 8¨a°¨V°a¸°V¸aÀ¸VÐDÑEÔE€ØÐÐ€Øˆyˆy€ð.ð .ð .ð .ðD6ð 6ð 6ð0 „×ÒØˆmÐ0°,Ð@RÐSñô ð „×Ò˜ÐPÐPÐPÑQÔQð&ð &ñ RÔQñô ð&ð „×ÒØˆmÐ0°,Ð@RÐSñô ðð ñô ðð „×ÒØˆmÐ0°,Ð@RÐSñô ð
.ð 
.ñô ð
.ð „×ÒØàØØØØØðñ
ô 
ð.ð .ñ
ô 
ð.ð$ „×ÒØàØØØØØðñ
ô 
ð4ð 4ñ
ô 
ð4ð$ „×ÒØˆmÐ0°,Ð@RÐSñô ð(Hð (Hñô ð(HðV „×ÒØˆmÐ0°,Ð@RÐSñô ð&ð &ñô ð&ð „×ÒØˆmÐ0°,Ð@RÐSñô ð'ð 'ñô ð'ð „×ÒØˆmÐ0°,Ð@RÐSñô ð&/ð &/ñô ð&/ðR „×ÒØˆmÐ0°,Ð@RÐSñô ð=ð =ñô ð=ð$ „×ÒØˆmÐ0°,Ð@RÐSñô ðð ñô ðð „×Ò˜ =Ð2EÐ"FÑGÔGð8ð 8ñ HÔGð8ð" „×ÒØˆmÐ0°.ÐBVÐWñô ð4ð 4ñô ð4ð „×ÒØà	Ð)¨8¨2¬8°D©>¬>Ð:Ð;Ø	Ð/°°´¸$±´Ð@ÐAØ	˜-¨¨¬°$©¬Ð8Ð9Ø	 ¨x¨r¬x¸©~¬~Ð>Ð?ð	ñô ð.ð .ñô ð.ð „×ÒØˆmÐ0°,Ð@RÐSñô ð5ð 5ñô ð5ð „×ÒØà	Ð)¨1Ð-Ð.Ø	Ð/°Ð3Ð4Ø	˜-¨Ð+Ð,Ø	 ¨qÐ1Ð2ð	ñô ð&ð &ñô ð&ð „×Ò˜ =Ð2EÐ"FÑGÔGðGð Gñ HÔGðGðB „×Ò˜ =Ð2EÐ"FÑGÔGð5ð 5ñ HÔGð5ð „×Ò˜ =Ð2EÐ"FÑGÔGð ð  ñ HÔGð ð „×Ò˜ =Ð2EÐ"FÑGÔGðOð Oñ HÔGðOð  „×Ò˜ =Ð2EÐ"FÑGÔGð+ð +ñ HÔGð+ð „×Ò˜ =Ð2EÐ"FÑGÔGðNð Nñ HÔGðNð6 „×Ò˜ =Ð2EÐ"FÑGÔGð+ð +ñ HÔGð+ð „×Ò˜ =Ð2EÐ"FÑGÔGð+ð +ñ HÔGð+ð „×Ò˜ =Ð2EÐ"FÑGÔGð=ð =ñ HÔGð=ð( „×Ò˜ =Ð2EÐ"FÑGÔGð?ð ?ñ HÔGð?ðB „×Ò˜ =Ð2EÐ"FÑGÔGðD7ð D7ñ HÔGðD7ðN „×Ò˜ =Ð2EÐ"FÑGÔGð! ð ! ñ HÔGð! ðH „×Ò˜ =Ð2EÐ"FÑGÔGðCð Cñ HÔGðCð$ „×Ò˜ =Ð2EÐ"FÑGÔGðBð Bñ HÔGðBð  „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð „×Ò˜ =Ð2EÐ"FÑGÔGð0ð 0ñ HÔGð0ð$ „×Ò˜ =Ð2EÐ"FÑGÔGð+Bð +Bñ HÔGð+Bð\ „×Ò˜ =Ð2EÐ"FÑGÔGðCð Cñ HÔGðCð" „×ÒØˆmÐ0°.ÐBVÐWñô ð2ð 2ñô ð2ð „×Ò˜ =Ð2EÐ"FÑGÔGð ð  ñ HÔGð ð „×Ò˜ =Ð2EÐ"FÑGÔGð,ð ,ñ HÔGð,ð( „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð" „×Ò˜ =Ð2EÐ"FÑGÔGð(ð (ñ HÔGð(ð „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð „×Ò˜ =Ð2EÐ"FÑGÔGØ„×Ò˜ÐPÐPÐPÑQÔQð>ð >ñ RÔQñ HÔGð>ð" „×Ò˜ =Ð2EÐ"FÑGÔGð"/ð "/ñ HÔGð"/ðJ „×Ò˜ =Ð2EÐ"FÑGÔGð/ð /ñ HÔGð/ð „×Ò˜ =Ð2EÐ"FÑGÔGðð ñ HÔGðð „×Ò˜ <Ð1CÐ"DÑEÔEð(ð (ñ FÔEð(ð „×Ò˜ <Ð1CÐ"DÑEÔEðGð Gñ FÔEðGð@ „×Ò˜ <Ð1CÐ"DÑEÔEðJð Jñ FÔEðJð@ „×Ò˜ <Ð1CÐ"DÑEÔEðGð Gñ FÔEðGð4 „×Ò˜ <Ð1CÐ"DÑEÔEðð ñ FÔEðð. „×Ò˜ <Ð1CÐ"DÑEÔEð ð  ñ FÔEð ðF „×Ò˜ <Ð1CÐ"DÑEÔEðð ñ FÔEðð. „×Ò˜ <Ð1CÐ"DÑEÔEðQð Qñ FÔEðQðB „×Ò˜ <Ð1CÐ"DÑEÔEðð ñ FÔEðð  „×Ò˜ <Ð1CÐ"DÑEÔEØ„×Ò˜ÐPÐPÐPÑQÔQð:ð :ñ RÔQñ FÔEð:ð „×Ò˜ <Ð1CÐ"DÑEÔEð1ð 1ñ FÔEð1ð#/ð #/ð #/ð #/ðL „×Ò˜ >Ð3GÐ"HÑIÔIð,ð ,ñ JÔIð,ð, „×Ò˜ >Ð3GÐ"HÑIÔIØ„×Ò˜ÐPÐPÐPÑQÔQð,ð ,ñ RÔQñ JÔIð,ð „×Ò˜ >Ð3GÐ"HÑIÔIð
.ð 
.ñ JÔIð
.ð „×Ò˜ >Ð3GÐ"HÑIÔIð!ð !ñ JÔIð!ð& „×Ò˜ >Ð3GÐ"HÑIÔIØ„×Ò˜ÐPÐPÐPÑQÔQð)ð )ñ RÔQñ JÔIð)ð& „×Ò˜ >Ð3GÐ"HÑIÔIð2ð 2ñ JÔIð2ð@ „×Ò˜ >Ð3GÐ"HÑIÔIð1ð 1ñ JÔIð1ð4 „×Ò˜ >Ð3GÐ"HÑIÔIð1ð 1ñ JÔIð1ð6 „×Ò˜ >Ð3GÐ"HÑIÔIð1ð 1ñ JÔIð1ð00ð 0ð 0ð,&ð &ð &ðR :ð  :ð  :ðF#ð #ð #ðL*ð *ð *ð& „×Ò˜Ð$>Ð$>Ð$>Ñ?Ô?ðGð Gñ @Ô?ðGð"! ð ! ð ! ðHJð Jð Jð#ð #ð #ðB#ð #ð #ð#ð #ð #ð"#ð #ð #ð"#ð #ð #ð"3ð 3ð 3ð$$ð $ð $ð „×Ò˜Ð$LÐ$LÐ$LÑMÔMð Hð  Hñ NÔMð HðF „×ÒØ�,Ô,¨lÔ.GÐHñô ð Bð  Bñô ð BðFBð Bð Bð03ð 3ð 3ð& „×Ò˜ }°lÐ&CÑDÔDð#ð #ñ EÔDð#ð
 „×ÒØàØØØØØðñ
ô 
ð „×Ò˜ r¤z°2´:Ð&>Ñ?Ô?ð.ð .ñ @Ô?ñ
ô 
ð.ð „×ÒØàØØØØØðñ
ô 
ð0ð 0ñ
ô 
ð0ð" „×Ò˜ }°lÀNÐ&SÑTÔTðð ñ UÔTððDð Dð Dð Dð Dr&   