B
    .(äb_  ã               @   sė   d dl mZ d dlZddddddgfd	ddd
ddgfddddddddgfdddddddgfddddddd d!dd"d#dgfd$d%d&d'd(d)d*d+dd(g	fd,d-d.d-d/d0dgfd1d2ddd3d4gfd5d6d7d8d9d:d;d<dgfg	Zej d=eĄd>d? Zd@dA ZdS )Bé    )Úunicode_literalsNu4   āĻāĻŽāĻŋ āĻŦāĻžāĻāĻ˛āĻžāĻ¯āĻŧ āĻāĻžāĻ¨ āĻāĻžāĻ!u	   āĻāĻŽāĻŋu   āĻŦāĻžāĻāĻ˛āĻžāĻ¯āĻŧu	   āĻāĻžāĻ¨u	   āĻāĻžāĻú!u3   āĻāĻŽāĻŋ āĻŦāĻžāĻāĻ˛āĻžāĻ¯āĻŧ āĻāĻĨāĻž āĻāĻāĨ¤u	   āĻāĻĨāĻžu   āĻāĻu   āĨ¤ui   āĻŦāĻ¸ā§āĻ¨ā§āĻ§āĻ°āĻž āĻāĻ¨āĻ¸āĻŽā§āĻŽā§āĻā§ āĻĻā§āĻˇ āĻ¸ā§āĻŦā§āĻāĻžāĻ° āĻāĻ°āĻ˛ā§ āĻ¨āĻž?u   āĻŦāĻ¸ā§āĻ¨ā§āĻ§āĻ°āĻžu   āĻāĻ¨āĻ¸āĻŽā§āĻŽā§āĻā§u	   āĻĻā§āĻˇu   āĻ¸ā§āĻŦā§āĻāĻžāĻ°u   āĻāĻ°āĻ˛ā§u   āĻ¨āĻžú?u5   āĻāĻžāĻāĻž āĻĨāĻžāĻāĻ˛ā§ āĻāĻŋ āĻ¨āĻž āĻšāĻ¯āĻŧ!u   āĻāĻžāĻāĻžu   āĻĨāĻžāĻāĻ˛ā§u   āĻāĻŋu	   āĻšāĻ¯āĻŧu   āĻ¸āĻ°āĻāĻžāĻ°āĻŋ āĻŦāĻŋāĻļā§āĻŦāĻŦāĻŋāĻĻā§āĻ¯āĻžāĻ˛ā§-āĻāĻ° āĻāĻžāĻ¤ā§āĻ° āĻ¨āĻ āĻŦāĻ˛ā§āĻ āĻāĻŋ āĻāĻŽāĻ¨ āĻāĻāĻ°āĻŖ?u   āĻ¸āĻ°āĻāĻžāĻ°āĻŋu'   āĻŦāĻŋāĻļā§āĻŦāĻŦāĻŋāĻĻā§āĻ¯āĻžāĻ˛ā§ú-u   āĻāĻ°u   āĻāĻžāĻ¤ā§āĻ°u   āĻ¨āĻu   āĻŦāĻ˛ā§āĻu	   āĻāĻŽāĻ¨u   āĻāĻāĻ°āĻŖuL   āĻ¤āĻžāĻ°āĻž āĻŦāĻ˛ā§, "āĻāĻ°āĻž āĻāĻžāĻŽāĻžāĻ°ā§āĻ° āĻŽā§āĻ°āĻāĻŋāĨ¤"u   āĻ¤āĻžāĻ°āĻžu	   āĻŦāĻ˛ā§ú,ú"u	   āĻāĻ°āĻžu   āĻāĻžāĻŽāĻžāĻ°ā§āĻ°u   āĻŽā§āĻ°āĻāĻŋu   ā§Š*ā§Š=ā§Ŧ?u   ā§ŠÚ*ú=u   ā§Ŧu?   āĻāĻžāĻāĻ āĻžāĻ˛-āĻāĻ° āĻāĻ¨ā§āĻ§āĻ āĻāĻ¨ā§āĻ¯āĻ°āĻāĻŽu   āĻāĻžāĻāĻ āĻžāĻ˛u   āĻāĻ¨ā§āĻ§āĻu   āĻāĻ¨ā§āĻ¯āĻ°āĻāĻŽu^   āĻĄāĻ āĻāĻžāĻ˛ā§āĻĻ āĻŦāĻ˛āĻ˛ā§āĻ¨ āĻĸāĻžāĻāĻžāĻ¯āĻŧ ā§Šā§Ģ āĻĄāĻŋāĻā§āĻ°āĻŋ āĻ¸ā§.āĨ¤u   āĻĄāĻu   āĻāĻžāĻ˛ā§āĻĻu   āĻŦāĻ˛āĻ˛ā§āĻ¨u   āĻĸāĻžāĻāĻžāĻ¯āĻŧu   ā§Šā§Ģu   āĻĄāĻŋāĻā§āĻ°āĻŋu   āĻ¸ā§.ztext,expected_tokensc             C   s&   | |}dd |D }||ks"t d S )Nc             S   s   g | ]}|j s|jqS Š )Zis_spaceÚtext)Ú.0Útokenr
   r
   úQ/home/dcms/DCMS/lib/python3.7/site-packages/spacy/tests/lang/bn/test_tokenizer.pyú
<listcomp>   s    z7test_bn_tokenizer_handles_testcases.<locals>.<listcomp>)ÚAssertionError)Úbn_tokenizerr   Zexpected_tokensÚtokensZ
token_listr
   r
   r   Ú#test_bn_tokenizer_handles_testcases   s    r   c             C   s    d}| |}t |dkstd S )Nu×  āĻ¨āĻ°ā§āĻĨ āĻ¸āĻžāĻāĻĨ āĻŦāĻŋāĻļā§āĻŦāĻŦāĻŋāĻĻā§āĻ¯āĻžāĻ˛āĻ¯āĻŧā§ āĻ¸āĻžāĻ°āĻžāĻŦāĻāĻ° āĻā§āĻ¨ āĻ¨āĻž āĻā§āĻ¨ āĻŦāĻŋāĻˇāĻ¯āĻŧā§ āĻāĻŦā§āĻˇāĻŖāĻž āĻāĻ˛āĻ¤ā§āĻ āĻĨāĻžāĻā§āĨ¤ āĻāĻ­āĻŋāĻā§āĻ āĻĢā§āĻ¯āĻžāĻāĻžāĻ˛ā§āĻāĻŋ āĻŽā§āĻŽā§āĻŦāĻžāĻ°āĻāĻŖ āĻĒā§āĻ°āĻžāĻ¯āĻŧāĻ āĻļāĻŋāĻā§āĻˇāĻžāĻ°ā§āĻĨā§āĻĻā§āĻ° āĻ¨āĻŋāĻ¯āĻŧā§ āĻŦāĻŋāĻ­āĻŋāĻ¨ā§āĻ¨ āĻāĻŦā§āĻˇāĻŖāĻž āĻĒā§āĻ°āĻāĻ˛ā§āĻĒā§ āĻāĻžāĻ āĻāĻ°ā§āĻ¨, āĻ¯āĻžāĻ° āĻŽāĻ§ā§āĻ¯ā§ āĻ°āĻ¯āĻŧā§āĻā§ āĻ°ā§āĻŦāĻ āĻĨā§āĻā§ āĻŽā§āĻļāĻŋāĻ¨ āĻ˛āĻžāĻ°ā§āĻ¨āĻŋāĻ āĻ¸āĻŋāĻ¸ā§āĻā§āĻŽ āĻ āĻāĻ°ā§āĻāĻŋāĻĢāĻŋāĻļāĻŋāĻ¯āĻŧāĻžāĻ˛ āĻāĻ¨ā§āĻā§āĻ˛āĻŋāĻā§āĻ¨ā§āĻ¸āĨ¤ āĻāĻ¸āĻāĻ˛ āĻĒā§āĻ°āĻāĻ˛ā§āĻĒā§ āĻāĻžāĻ āĻāĻ°āĻžāĻ° āĻŽāĻžāĻ§ā§āĻ¯āĻŽā§ āĻ¸āĻāĻļā§āĻ˛āĻŋāĻˇā§āĻ āĻā§āĻˇā§āĻ¤ā§āĻ°ā§ āĻ¯āĻĨā§āĻˇā§āĻ  āĻĒāĻ°āĻŋāĻŽāĻžāĻŖ āĻ¸ā§āĻĒā§āĻļāĻžāĻ˛āĻžāĻāĻāĻĄ āĻšāĻāĻ¯āĻŧāĻž āĻ¸āĻŽā§āĻ­āĻŦāĨ¤ āĻāĻ° āĻāĻŦā§āĻˇāĻŖāĻžāĻ° āĻāĻžāĻ āĻ¤ā§āĻŽāĻžāĻ° āĻā§āĻ¯āĻžāĻ°āĻŋāĻ¯āĻŧāĻžāĻ°āĻā§ āĻ ā§āĻ˛ā§ āĻ¨āĻŋāĻ¯āĻŧā§ āĻ¯āĻžāĻŦā§ āĻāĻ¨ā§āĻāĻāĻžāĻ¨āĻŋ! āĻāĻ¨ā§āĻā§āĻ¸ā§āĻ āĻĒā§āĻ°ā§āĻā§āĻ°āĻžāĻŽāĻžāĻ° āĻšāĻ, āĻāĻŦā§āĻˇāĻ āĻāĻŋāĻāĻŦāĻž āĻĄā§āĻ­ā§āĻ˛āĻĒāĻžāĻ° - āĻ¨āĻ°ā§āĻĨ āĻ¸āĻžāĻāĻĨ āĻāĻāĻ¨āĻŋāĻ­āĻžāĻ°ā§āĻ¸āĻŋāĻāĻŋāĻ¤ā§ āĻ¤ā§āĻŽāĻžāĻ° āĻĒā§āĻ°āĻ¤āĻŋāĻ­āĻž āĻŦāĻŋāĻāĻžāĻļā§āĻ° āĻ¸ā§āĻ¯ā§āĻ āĻ°āĻ¯āĻŧā§āĻā§āĻāĨ¤ āĻ¨āĻ°ā§āĻĨ āĻ¸āĻžāĻāĻĨā§āĻ° āĻāĻ¸āĻžāĻ§āĻžāĻ°āĻŖ āĻāĻŽāĻŋāĻāĻ¨āĻŋāĻāĻŋāĻ¤ā§ āĻ¤ā§āĻŽāĻžāĻā§ āĻ¸āĻžāĻĻāĻ° āĻāĻŽāĻ¨ā§āĻ¤ā§āĻ°āĻŖāĨ¤éT   )Úlenr   )r   r   r   r
   r
   r   Ú#test_bn_tokenizer_handles_long_text   s    r   )Ú
__future__r   ZpytestZ	TESTCASESÚmarkZparametrizer   r   r
   r
   r
   r   Ú<module>   s   