Как скопировать все повторяющиеся строки файла в новый файл в Python?

Я пытаюсь написать код для копирования всех дубликатов файла в новый файл. Программа, которую я написал, проверяет первые 3 элемента каждой строки и сравнивает их со следующей строкой.

f=open(r'C:\Users\xamer\Desktop\file.txt','r')
data=f.readlines()
f.close()
lines=data.copy()
dup=open(r'C:\Users\xamer\Desktop\duplicate.txt','a')
for x in data:
    for y in data:
        if (y[0]==x[0]) and (y[1]==x[1]) and (y[2]==x[2]):
            lines.append(y)
        else:
            lines.remove(y)
dup.write(lines)
dup.close()

Я получаю следующую ошибку:

Traceback (most recent call last):
  File "C:\Users\xamer\Desktop\file.py", line 80, in <module>
    lines.remove(y)
ValueError: list.remove(x): x not in list

Какие-либо предложения?

Вы пытаетесь удалить то, чего там нет. Линия должна быть удалена раньше во время наматывания петли.

Arndt Jonasson 10.06.2018 08:07

Ваш код не выполняет то, что вы говорите: он проверяет наличие дубликатов во всем файле, а не только на равенство соседних строк. Какую ты хочешь?

Arndt Jonasson 10.06.2018 08:08

Для своей задачи вы можете либо скопировать уникальные строки и дубликаты data, а затем remove, за исключением первого вхождения (излишне сложного), либо начать с пустого списка и дублированных строк append. Опубликованный вами код пытается сделать и то, и другое.

simonz 10.06.2018 08:27
PythonTutor может помочь вам понять ваш код.
Mr. T 10.06.2018 08:42
Почему в Python есть оператор "pass"?
Почему в Python есть оператор "pass"?
Оператор pass в Python - это простая концепция, которую могут быстро освоить даже новички без опыта программирования.
Некоторые методы, о которых вы не знали, что они существуют в Python
Некоторые методы, о которых вы не знали, что они существуют в Python
Python - самый известный и самый простой в изучении язык в наши дни. Имея широкий спектр применения в области машинного обучения, Data Science,...
Основы Python Часть I
Основы Python Часть I
Вы когда-нибудь задумывались, почему в программах на Python вы видите приведенный ниже код?
LeetCode - 1579. Удаление максимального числа ребер для сохранения полной проходимости графа
LeetCode - 1579. Удаление максимального числа ребер для сохранения полной проходимости графа
Алиса и Боб имеют неориентированный граф из n узлов и трех типов ребер:
Оптимизация кода с помощью тернарного оператора Python
Оптимизация кода с помощью тернарного оператора Python
И последнее, что мы хотели бы показать вам, прежде чем двигаться дальше, это
Советы по эффективной веб-разработке с помощью Python
Советы по эффективной веб-разработке с помощью Python
Как веб-разработчик, Python может стать мощным инструментом для создания эффективных и масштабируемых веб-приложений.
0
4
147
1
Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Эти фрагменты должны выполнять ту работу, о которой вы просили. Вначале я подумал создать список duplicated_lines, а затем записать все это в конце. Но потом я понял, что могу оптимизировать производительность кода, избегая дополнительного финального цикла, просто записывая повторяющиеся элементы на лету.

Как подчеркнул другой пользователь, не совсем понятно, хотите ли вы проверять только смежные двойные записи или повторяющиеся элементы независимо от позиции.

В первом случае - когда повторения идут сразу после - это код:

# opening the source file
with open('hello.txt','r') as f:
    # returns a list containing the original lines
    data=f.readlines()

# creating the file to host the repeated lines
with open('duplicated.txt','a') as f:

    for i in range(0, len(data)-1):
        # stripping to avoid a bug if the last line is a repeated item
        if (data[i].strip('\n') == data[i+1].strip('\n')):
            print("Lines {}: {}".format(i, data[i]))
            print("Lines {}: {}".format(i+1, data[i+1]))
            #duplicated_lines.append(data[i])
            print("Line repeated: " + data[i])
            f.write("%s\n" % data[i])

Если вместо этого вы хотите проверять повторяющиеся строки по всему файлу, это код:

# opening the source file
with open('hello.txt','r') as f:
    # returns a list containing the original lines
    data=f.readlines()

# creating the file to host the repeated lines
with open('duplicated.txt','a') as f:    
    for i in range(0, len(data)-1):
        for j in range(i+1, len(data)):
            # stripping to avoid a bug if the last line is a repeated item
            if (data[i].strip('\n') == data[j].strip('\n')):
                print("Lines {}: {}".format(i, data[i]))
                print("Lines {}: {}".format(j, data[j]))
                #duplicated_lines.append(data[i])
                print("Line repeated: " + data[i])
                f.write("%s\n" % data[i])

Другие вопросы по теме