[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
3 Z) G; o( E2 H& s, O, G大哥，你这个头像很爱啊，像ai又想vam，有没有出处

( ~4 L- c3 I4 v2 |; I5 Z- g# Y抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
import os
import imagehash
' E, b5 K4 N! f0 I6 t. Dfrom PIL import Image
, ^+ R, l7 ^- [  A# d) ]- P' ^
def compute_image_hash(image_path):
* o6 b+ I5 m1 @* O7 D6 Y1 [# X    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
) ~  X, e2 ^6 K    try:
        with Image.open(image_path) as image:
            return imagehash.average_hash(image)
+ y6 ~' L3 |1 c" g8 {# x4 R. ]6 Y    except (OSError, IOError) as e:
% \5 s0 k1 o7 D6 _9 R6 F        print(f"处理图像 {image_path} 时出错: {e}")
        return None

def remove_duplicates(image_folder):
) M+ z1 R( Y* W: E* W: r  l6 k    hash_dict = {}
    duplicates = []
, {. v) F9 ]- |5 T* a7 S2 S
9 A2 h. j7 s$ C! `- M  |    for filename in os.listdir(image_folder):
; l4 o/ C* _/ \# j        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
            image_path = image_folder + "\\" + filename
7 x1 u& _0 q% O) i. R* d. @            image_hash = compute_image_hash(image_path)
# o7 V4 O& G7 U1 W/ m% d
            if image_hash in hash_dict:
                duplicates.append(image_path)
. |$ |0 v' Q) P9 [" b            else:
4 J9 K/ a. ]/ n; E" K                hash_dict[image_hash] = image_path
# Q0 J* R; I4 R5 D4 A2 M; R# p        else:
            pass
! N( V- D6 \& i; O0 q  B0 U
    for duplicate in duplicates:
        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")

    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
remove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
/ {! l6 b% [" Q9 q+ ?# i/ U大哥，你这个头像很爱啊，像ai又想vam，有没有出处

' e) B- s5 d5 b+ \一眼ai
; J9 L1 G4 ^0 T6 O2 X7 d